ИИ - это паровой двигатель или калькулятор?

Как исторические аналогии формируют наше понимание революции искусственного интеллекта

Мы, люди, любим обращаться к прошлому, чтобы понять новые обстоятельства и события. Мы сравниваем нынешние экономические трудности с историческими рецессиями и депрессиями, а современных авторитарных лидеров — с Юлием Цезарем или Бенито Муссолини. Во многом это естественно. Наш мозг, сталкиваясь с чем-то новым, пытается найти этому место в уже известном контексте. Поэтому, когда появляется что-то новое, мы хотим сказать: «Эта новая вещь похожа на ту старую, которую я уже понимаю!»

В каком-то смысле это неудивительно. Наш мозг ленив и предпочитает использовать уже знакомые шаблоны, а не вырабатывать совершенно новое понимание мира. Мы учимся и накапливаем знания в школе и в течение жизни, что превращает наш ум в предсказательный механизм, использующий эти данные для интерпретации нового.

Иными словами, мы ведем себя немного как большие языковые модели.

Проблема в том, что новые события не полностью соответствуют тому, как всё происходило раньше. Это значит, что выбранные нами исторические аналогии для понимания новых явлений будут формировать — и ограничивать — наше представление о возможностях.

Какие исторические события мы можем сравнить с развитием искусственного интеллекта? И как это может повлиять на наше понимание будущего?

ИИ как паровая машина

Некоторые люди считают, что ИИ — это нечто масштабное, сопоставимое по значимости с промышленной революцией. Это смелое утверждение. Промышленная революция стала крупнейшим изменением в образе жизни человечества с момента изобретения земледелия тысячи лет назад.

Когда люди научились извлекать энергию из ископаемого топлива и перестраивать рабочие процессы и общество вокруг эффективного труда, всё изменилось. Численность населения выросла в восемь раз, продолжительность жизни более чем удвоилась, а ранее немыслимый уровень материального изобилия стал возможен для многих.

Паровая машина также принесла целый ряд проблем. В краткосрочной перспективе она ухудшила условия труда и жизни для людей в промышленных городах. В долгосрочной перспективе начался процесс выброса парниковых газов, который нанес вред всем экосистемам планеты.

Если ИИ действительно настолько значим — одно из трёх важнейших событий в истории человечества после изобретения земледелия и промышленной революции, — это изменит всё.

То, чем мы занимаемся, как мы общаемся, как взаимодействуем друг с другом (или с нашими цифровыми компаньонами) и многое другое будет трансформировано благодаря ИИ. Эта интерпретация также поддерживает идею, что ИИ — это неудержимая сила. Как и энергия ископаемого топлива, внедрение фабричной системы, однажды запущенные в мире, изменили всё, так же поступит и ИИ. Если эта аналогия верна, бессмысленно сопротивляться изменениям — нужно просто адаптироваться.

ИИ как самоуправляемый автомобиль

Когда мои дети были маленькими, я надеялся, что мне не придется учить их водить машину. Вместо того чтобы сжимать зубы и держаться за подлокотник, пока они учатся управлять 1,5-тонной машиной методом проб и ошибок, я мог бы просто позволить автомобилю отвезти их куда нужно. Технологические визионеры уверяли, что технология самоуправляемых автомобилей уже вот-вот появится.

Теперь мои дети стали взрослыми, а мир, где мы все ездим в беспилотных машинах, кажется таким же далёким, как и раньше.

Дело в деталях. Да, на дорогах есть самоуправляемые автомобили, выполняющие ограниченные задачи в определённых местах, но они далеки от замены большинства человеческих водителей. Как утверждает инженер Мисси Каммингс, спустя десятилетия разработки «реальные приложения транспортного ИИ либо работают, либо нет». Компьютеры до сих пор не могут достаточно хорошо различать социальные аспекты вождения — что сделает пешеход? Разрешит ли та машина мне перестроиться? — чтобы завоевать наше доверие.

К сожалению, автомобили, которые доставляют нас в пункт назначения большую часть времени, недостаточно хороши. И непонятно, достигнет ли технология уровня, где она сможет делать это всё время. Кривая развития самоуправляемых технологий была крутой на первых этапах, но теперь она, похоже, выравнивается.

Сегодня ИИ демонстрирует большой потенциал, но пока не готов к полноценному использованию. Он способен на многое, но его полезность и надежность остаются под вопросом. Если я прошу чат-бота найти информацию, мне всё равно приходится проверять источники, чтобы убедиться, что он ничего не выдумал. Если я не доверяю ИИ даже в простых поисках, тем более я не захочу, чтобы он диагностировал мои болезни или редактировал мои контракты.

Возможно, как и с самоуправляемыми автомобилями, мы идём к будущему, где ИИ покажет большие возможности, но его действительно полезное и надёжное применение окажется чрезвычайно сложным.

ИИ как калькулятор

Я редко делаю расчёты вручную. Зачем, если есть калькуляторы? Я ввожу оценки студентов в электронный журнал, и он вычисляет среднее за семестр. Я использую телефонный калькулятор, если нужно умножить или разделить большие числа. Я мог бы заняться делением в столбик, но это кажется пустой тратой времени.

Мне не кажется, что я что-то теряю, пользуясь калькулятором. Он выполняет скучную рутину, освобождая время для более важных дел. Ученики в моей школе широко используют калькуляторы на уроках математики, что нравится учителям, поскольку это позволяет сосредоточиться на более сложных концепциях.

Использование калькуляторов кажется неоспоримым, но так было не всегда. Как пишут Майкл Кроу и другие:

Однако эти страхи оказались необоснованными. Калькуляторы освободили учеников и учителей для более инновационного и эффективного изучения математики, сфокусированного на критическом мышлении и решении задач.

Может ли ИИ сделать то же самое, но для гораздо более широкого круга тем? Не окажемся ли мы, опасающиеся, что ИИ повредит способности нового поколения читать и мыслить, такими же нелепыми, как те, кто боялся, что калькуляторы уничтожат математическую грамотность?

ИИ как грандиозный проект

В 1950-х и 1960-х годах Соединённые Штаты и Советский Союз потратили миллиарды долларов на то, чтобы отправить людей в космос, а затем на Луну. Хотя Советский Союз на первых порах лидировал, запуская спутники, собак и Юрия Гагарина в неизведанные просторы, американцы смогли обойти конкурентов и установить звёздно-полосатый флаг на Луне.

Космическая гонка была многогранным явлением. Это был идеологический поединок: Советский Союз демонстрировал миру, что централизованное планирование способно на великие достижения, в то время как Соединённые Штаты показывали, на что способны свободные рынки. Это был и не слишком скрытый способ испытания технологий межконтинентальных баллистических ракет, которые могли быть использованы как для ядерной войны, так и для космических исследований.

Космическая программа стала центром полезных инноваций, породив множество изобретений — от датчиков изображений до солнечных панелей и липучек, которые нашли применение на Земле. Но не менее важно, что это был вдохновляющий проект исследования и открытий, который воодушевил людей по всему миру.

Космическая гонка могла как усиливать, так и смягчать напряжённость между сверхдержавами. Она предоставила ещё одно поле для соперничества, но, возможно, наличие научно-технической арены для демонстрации своих позиций создавало своеобразный «клапан», снижающий риск конфликта. После того как Нил Армстронг ступил на Луну и подтвердил победу американцев, интерес стран к освоению космоса начал угасать. Выяснилось, что без конкуренции нас, в общем-то, не так уж сильно привлекает идея возвращения на Луну.

Некоторые комментаторы считают, что ИИ стал новой ареной соперничества между Китаем и Соединёнными Штатами. Победившая страна сможет заявить о своём превосходстве. Как пишут Джессика Брандт и другие:

Если ИИ действительно обретёт черты космической гонки, это может привлечь колоссальные инвестиции со стороны мировых держав. Но что случится, если гонка будет завершена? Забудут ли о развитии технологии, как это произошло с космической программой?

ИИ как загрязнитель

Когда экологи изучают загрязняющие вещества, они фокусируются на таких показателях, как медианная токсическая доза и медианная летальная доза. Эти показатели показывают, сколько вещества требуется, чтобы причинить вред или убить более 50% популяции. Небольшое количество загрязнителя может не вызывать серьёзных проблем, но, как только будет преодолён порог, последствия станут заметными и необратимыми.

Сейчас наша информационная экосистема заполняется «загрязнением» от ИИ. Результаты поисковых систем всё чаще включают сайты с низкокачественным контентом, созданным ИИ, иногда дополненным ещё большим количеством бесполезного текста, сгенерированного автоматически. Социальные сети наполняются поддельными изображениями, созданными искусственным интеллектом.

Ещё хуже, что ИИ-моделям не хватает обучающих данных, и они могут начать обучаться на текстах и изображениях, созданных самим ИИ. Возможно, большие языковые модели (LLM) начнут потреблять низкокачественные данные и генерировать ещё более грубые результаты.

Пока что такие данные сравнительно легко отличить от ценного, созданного людьми контента. И большая часть того, что мы находим в интернете, остаётся полезной. Но так может быть недолго. Когда социальные сети и поисковые системы достигнут критической массы мусора, сгенерированного ИИ, станут ли они бесполезными? Будет ли загрязнение настолько сильным, что «обитатели» этой системы начнут испытывать дискомфорт?

Надеюсь, эти аналогии показались вам интересными и, возможно, заставили взглянуть на ИИ с другой стороны. Однако не стоит полагаться только на такие сравнения. Одним из недостатков больших языковых моделей является то, что они всего лишь машины предсказания, генерирующие контент на основе того, что они усвоили. Они не могут мыслить творчески; они лишь усредняют известное и пересказывают его.

Но мы, люди, можем лучше. Будущее не всегда похоже на прошлое, и, вероятно, все эти аналогии — как и любые другие, которые можно придумать, — окажутся недостаточными. Только мы, а не машины, можем представить себе уникальные возможности, которые предлагает эта новая технология.

Если вы хотите читать больше интересных историй, подпишитесь пожалуйста на наш телеграм канал: https://t.me/deep_cosmos