В 2015 году несколько миллиардеров из Кремниевой долины основали некоммерческий исследовательский центр ИИ под названием OpenAI.
Группа, возглавляемая Илоном Маском, рассматривала ИИ как слишком мощную технологию, которая, попав не в те руки, представляла бы «экзистенциальную угрозу» человечеству.
Они думали, что смогут предотвратить это, сначала создав ИИ с открытым исходным кодом: «цифровой интеллект», который посвящен добру и безусловно доступен каждому:
«Поскольку наши исследования свободны от финансовых обязательств, мы можем лучше сосредоточиться на позитивном влиянии на человека. Мы считаем, что ИИ должен быть продолжением индивидуальной человеческой воли и, в духе свободы, максимально широко и равномерно распределен,» — написала команда OpenAI.
По разным источникам, миллиардеры пожертвовали более 1 миллиарда долларов исследовательскому центру.
Но при всех благих намерениях, в 2019 году, когда OpenAI разработала одну из своих ранних моделей ИИ, GPT2, они отказались выпустить ее в публичный доступ, мотивируя это тем, что она была «слишком опасной».
Вскоре после этого OpenAI была реструктурирована в коммерческую компанию и привлекла еще 1 миллиард долларов от Microsoft.
Именно в этот момент, Маск — безусловно, самый страстный сторонник ИИ с открытым исходным кодом — покинул компанию.
По сей день его уход остается окутанным тайной.
Но, по его собственным словам, «Я не соглашался с некоторыми вещами \
Я делюсь этой историей, потому что немногие осознают, какую важную роль ИИ сыграет в следующем десятилетии.
На самом деле, его потенциал будет обладать большей властью, чем Google, Meta и Twitter – вместе взятые.
Однако то, что должно было быть общественным благом, поглощается капиталистами Кремниевой долины со значительными последствиями.
Позвольте мне объяснить.
Эра ИИ наступила
Вы заметили, как заголовки вдруг запестрели прогнозами об ИИ?
От ИИ-фотографии, которая делает вас похожим на супергероя или принцессу, до ИИ, который может писать бизнес-планы, мир вот-вот изменится.
В прошлом месяце OpenAI выпустила прототип ChatGPT — ИИ-бота, который предоставляет человекоподобные ответы на всевозможные запросы: от базовых вопросов до сложных головоломок и задач.
Если вы думаете, что «мгновенные ответы» Google — из которых все умные колонки (такие как Amazon Echo) получают свои ответы — умны…
ChatGPT настолько сложен, что может написать эссе университетского уровня или код на Python по запросу из нескольких слов.
Убедитесь сами. Я попросил бота написать эссе о вас:
(Ирония в том, что ChatGPT построен на GPT-3.5 — преемнике GPT-2, который OpenAI сочла слишком опасным для публики до того, как OpenAI была реструктурирована в коммерческую корпорацию.)
Это самый ощутимо впечатляющий технологический прорыв со времен появления интернета.
И это, естественно, вызвало обычные споры о том, что «машины захватят мир».
Но весь дискурс вокруг этой технологии упускает из виду более широкую картину.
А именно, надвигающуюся угрозу ее последствий в ближайшие несколько лет…
Иллюзия децентрализации
Подумайте о «логистике» цифровой информации и о том, как она изменилась за последние три десятилетия.
Примерно до 1998 года интернет по сути напоминал традиционную модель прессы.
Хотя любой мог купить URL и писать все, что хотел, не было средств для распространения информации по всей сети.
Единственный способ высказать свое мнение в интернете заключался в том, чтобы быть богатой медиакорпорацией, такой как Yahoo или AOL, у которой было достаточно денег, чтобы запечатлеть свои URL-адреса в сознании людей.
Затем появились поисковые системы.
Их боты «каталогизировали» каждый URL, позволяя пользователям интернета находить интересующую страницу, вводя ключевые слова того, что они искали.
Миллионы небольших веб-сайтов, иначе скрывающихся в темноте, оказались в центре внимания. В результате началась эра «блогинга».
Появились социальные сети.
Впервые в истории обычным людям были предоставлены средства для выражения своих мнений в масштабе.
На первый взгляд, кажется, что интернет убил централизованную прессу, фрагментировав источники информации. (Помните, когда люди думали, что твиттер-шитпостеры заменят журналистов?)
Подвох в том: кто-то должен курировать весь этот беспорядок.
И если вы оглянетесь, то быстро заметите, что эта «курация» осуществлялась исключительно крупными технологическими компаниями:
- Apple и Google контролируют приложения на 99,5% телефонов в Америке
- Google предоставляет ответы на 86,5% поисковых запросов, в том числе когда люди ищут новости
- А Meta и Twitter — и теперь китайский TikTok — курируют большую часть контента, который вы и все остальные потребляете на мобильных устройствах
Все это представляет собой неотъемлемый риск предвзятости.
Думаете, алгоритмы Google отвечают на ваши запросы самым беспристрастным образом?
Подумайте еще раз.
Через ZeroHedge:
«Эпштейн назвал свои выводы «пугающими» из-за способности технологических компаний манипулировать и изменять поведение людей в глобальном масштабе.
«Теперь, если все это сложить, вы получите нечто пугающее, потому что у вас есть источники влияния, контролируемые буквально горсткой руководителей, которые не подотчетны никакой общественности, ни американской, ни какой-либо другой. Они подотчетны только своим акционерам», — сказал Эпштейн ведущему «American Thought Leaders» Яну Екелеку во время недавнего интервью.
Эпштейн заявил, что поисковая система Google перенаправила от 2,6 до 10,4 миллиона голосов в пользу Хиллари Клинтон за несколько месяцев до выборов 2016 года, а затем перенаправила не менее 6 миллионов голосов в пользу Джо Байдена и других демократов».
Или что забавные приложения, такие как TikTok, не могут иметь политической повестки дня?
Из моего недавнего письма «Самое большое оружие против Америки: телефон вашего подростка»:
«Теперь представьте, что может сделать КПК, контролируя алгоритм.
Мы уже видим ранние, тонкие формы ее общенационального обусловливания.
Например, TikTok предоставляет разный контент в Китае и в США.
Но дело не только в языке и культурных обычаях. Контент имеет совершенно другую природу и служит противоположным целям.
В Китае TikTok показывает образовательные клипы о науке и достижениях. В то же время американским детям скармливают самое поверхностное, отупляющее развлечение, такое как забавные видео с домашними животными, комические неудачи — а также экстремистский политический контент.
Другими словами, Китай преследует систематическую поляризацию и оглупление американской культуры».
Мы даже не коснулись той цензуры, которую практиковал Twitter до покупки Маском.
Например, вот лишь малая часть того, что Маск недавно опубликовал через «файлы Twitter»:
Все это возвращает меня к ИИ.
Эхо-камера по замыслу
Большинство людей упускают из виду более широкую картину с ИИ, потому что они слишком одержимы апокалиптическими сценариями.
Например, ИИ заменит людей в интеллектуальном плане. Или ИИ станет сознательным и уничтожит человеческую цивилизацию.
Хотя мы не можем исключать эти сценарии в будущем, ИИ представляет гораздо более реальную и непосредственную угрозу.
И чтобы понять его реальную опасность, вы должны перевернуть свое восприятие ИИ с ног на голову.
Что я имею в виду?
Не думайте об ИИ как об инструменте или оружии. Вместо этого, думайте о нем как об источнике информации.
Если эта точка зрения кажется слишком надуманной, подумайте, сколько новостей уже генерируется с помощью ИИ.
Через Goethe:
«Bloomberg был одним из первых, кто использовал Cyborg, программу, анализирующую финансовые отчеты и мгновенно пишущую новостные статьи со всеми соответствующими фактами и цифрами. The Washington Post попала в заголовки, когда начала использовать Heliograf, собственную технологию искусственного интеллекта, для освещения Олимпийских игр 2016 года в Рио и выборов в Конгресс.
Информационное агентство AP увеличило производство статей о квартальных отчетах компаний с 300 до 3700 благодаря использованию ИИ. Сегодня технология ИИ в новостном отделе AP автоматически генерирует около 40 000 историй в год – лишь малую часть от общего числа историй, производимых глобальным новостным агентством, но преимущества использования ИИ и автоматизации многочисленны, говорит Лиза Гиббс, директор по партнерствам в новостях и руководитель отдела новостей ИИ в AP».
Верно. Эта технология едва затрагивает поверхность своих возможностей.
Тем временем мы уже потребляем медиа от роботов-репортеров, не осознавая этого.
Представьте, сколько новостей напишет ИИ, когда OpenAI выпустит GPT 4, 5, 6…
Я ни в коем случае не луддит. Удивительно, что эта технология может сделать в плане эффективности работы.
Но вот в чем проблема.
Как абсолютный источник информации, он по своей сути имеет еще большую предвзятость, чем Google.
Вот пример того, что я имею в виду\
Видите проблему?
В то время как алгоритмы социальных сетей заманивают нас в идеологические эхо-камеры, по крайней мере, мы все еще можем выбирать, что хотим слышать. ИИ, с другой стороны, имеет только один «правильный» ответ.
Это эхо-камера принудительного консенсуса по замыслу.
И те, кто его контролирует, могут обладать большей властью над общественным дискурсом, чем все крупные технологические компании сегодня, ВМЕСТЕ ВЗЯТЫЕ.
Большой MUM
Элиты, использующие ИИ для влияния на национальный коллективный разум, звучат как захватывающий сюжет для научно-фантастической драмы.
Но такое обусловливание уже происходит в масштабе. Просто оно недостаточно драматично (пока), чтобы привлечь много внимания.
Возьмем, к примеру, поисковую систему Google.
В прошлом году Google выпустила Multitask Unified Model (MUM), новый движок ИИ, который может сканировать интернет и выявлять «консенсус» по любой заданной теме — который затем используется для выдачи «релевантных» результатов поиска.
Алгоритм был впервые протестирован для борьбы с «дезинформацией» о Covid.
Через ZeroHedge:
«Google впервые выпустила MUM для борьбы с тем, что она считала «дезинформацией» о COVID, убедившись, что каждый видел «высококачественную и своевременную информацию от надежных органов здравоохранения, таких как Всемирная организация здравоохранения». Сокращая количество источников только до тех, которые согласуются с ее повесткой дня, Google может предоставлять быстрые результаты, избавляясь от различных точек зрения».
Хотя эту технологию, возможно, можно использовать во благо, существует огромный риск злоупотребления.
Используя такие движки ИИ, компании, подобные Google, могут легко манипулировать массами, отфильтровывая мнения и навязывая «консенсус», который наилучшим образом соответствует их повестке дня.
И вам не нужно богатое воображение, чтобы понять, чем все это может закончиться:
«Эй, Google. За кого мне голосовать?»
Ищите истину и будьте готовы,
Carlisle Kane
