Свыше тысячи экспертов призвали перестать развивать искусственный интеллект. Чего они боятся?
Почти полторы тысячи технологических лидеров и ученых (на момент написания статьи их было 1380 человек) призвали лаборатории искусственного интеллекта приостановить разработку таких передовых систем, как ChatGPT. В открытом письме эксперты предупредили, что инструменты ИИ представляют «серьезный риск для общества и человечества». Разбираемся, в чем опасность, казалось бы, полезных инструментов.
Что из себя представляет ChatGPT и ее аналоги
Прогремевшая GPT-4 — это математическая система от OpenAI, которая обучается путем анализа данных. Подобные нейросети называются большими языковыми моделями (LLM). Выявляя миллиарды шаблонов, LLM учатся самостоятельно генерировать текст: от простых диалогов до дипломов и компьютерных программ.
Разработку первых нейросетей такого типа Google и OpenAI начали еще в 2018 году. Их LLM обучались на больших объемах цифрового текста, включая книги, статьи в «Википедии» и журналы чатов. OpenAI оказалась быстрее и успешнее, а появление ChatGPT побудило конкурентов ускорить разработку аналогичных больших языковых моделей. При этом беспрерывное развитие улучшило их возможности, но не защитило от ошибок.
Например, многие из существующих LLM могут перевирать или додумывать факты, иногда, к тому же, предлагая для осмысления странные высказывания. Например, технология успела сравнить репортера Associated Press с Адольфом Гитлером и побуждала репортера New York Times развестись с женой. Исследователи также говорят, что персонализированные чат-боты в режиме реального времени могут очень убедительно делиться теориями заговора.
На этой волне специалисты из разных областей призвали все лаборатории, работающие над развитием ИИ, немедленно приостановить обучение систем искусственного интеллекта, более мощных, чем GPT-4, как минимум на 6 месяцев.
Зачем останавливать развитие ИИ на полгода?
Подписанты (в числе которых владелец Twitter и Tesla Илон Маск, соучредитель Apple Стив Возняк и ученый-историк Юваль Ной Харари) считают, что мощные системы ИИ следует разрабатывать только тогда, когда эксперты уверены, что результат от них будет положительным, а риски — управляемыми. Но пока этой уверенности, по словам авторов письма, нет. В опубликованном обращении задаются следующие вопросы:
Должны ли мы позволять машинам наводнять наши информационные каналы пропагандой и неправдой? Должны ли мы автоматизировать все рабочие места? Должны ли мы развивать нечеловеческие умы, которые в конечном итоге могут превзойти нас численностью, перехитрить и заменить? Должны ли мы рисковать потерей контроля над нашей цивилизацией?
Перерыв в шесть месяцев, как полагают эксперты, даст время на внедрение «общих протоколов безопасности» для систем искусственного интеллекта. При этом отмечается, что пауза должна быть «общедоступной и поддающейся проверке и включать всех ключевых участников». Однако эксперты отдают отчет в том, что убедить более широкое техническое сообщество на мораторий будет не так просто.
И что дальше?
По большей части опасения касательно продолжения использования чат-ботов на основе ИИ связаны с дезинформацией. Кроме этого, новое поколение чат-ботов спровоцировало борьбу за то, чтобы перевернуть экономику интернета. Даже в открытом письме подписанты задаются вопросом: «Должны ли мы автоматизировать все рабочие места?» Особенно остро вопрос стоит в отношении профессий, задействующих текстовые данные. Но стоит ли переводчикам, копирайтерам, журналистам и писателям бояться того, что чат-боты отберут у них работу? Посмотрим на примерах.
Недавно редакторы трех научно-фантастических журналов — Clarkesworld, The Magazine of Fantasy & Science Fiction и Asimov’s Science Fiction — заявили, что их завалили художественными произведениями, созданными ИИ. Поток стал настолько неуправляемым, что Нил Кларк, редактор Clarkesworld, прекратил принимать материалы. Определить истории, сгенерированные чат-ботом, изучив определенные черты в написании и процессе подачи, оказалось несложно.
Некоторые писатели опасаются, что технология однажды может перевернуть литературный мир. Но рассказы, атакующие журналы, больше похожи на спам, который легко отличить (по крайней мере, на данный момент) от научной фантастики, созданной реальными авторами. Несколько историй, созданных чат-ботами, которые получили редакторы, и вовсе имели одно и то же название: «Последняя надежда». Специалисты заявили, что не хотят платить за работу, которую проделал алгоритм. Таким образом, молодым авторам не нужно беспокоиться о том, что их вытеснят.
То же самое касается художников. Примерно 15 лет назад группа исследователей из Университетского колледжа Лондона и Копенгагенского университета поместила людей в аппарат фМРТ и показала им серию абстрактных изображений. Ученые заявили добровольцам, что изображения созданы либо человеком, либо компьютером. Победитель, казалось, был предрешен. Люди не только утверждали, что предпочитают изображения, созданные руками человека, но и центры удовольствия в их мозге загорались ярче. Ученые планируют провести подобный эксперимент и сегодня.
Но почему люди получают больше эстетического удовольствия от иллюстрации или рассказа, сотворенного именно человеком? Некоторые считают, что это одна из отличительных черт современности. Достаточно подумать об этом следующим образом. По оценкам искусствоведов, половина всех заказанных произведений искусства в XVI веке были копиями оригиналов. В эпоху Возрождения оригинальная картина стоила примерно в 2,5 раза дороже хорошей копии. Теперь это соотношение приближается к 10000:1: картинка, нарисованная нейросетью за миллисекунду, не стоит больше картины, созданной человеческой рукой.
Появление моделей ИИ только ускорит эту тенденцию восприятия. Мы будем придавать еще большее значение работам, созданными людьми. Это плохая новость для роботов с искусственным интеллектом, которые пришли в этот мир именно для того, чтобы облегчать человеку жизнь. Прямо сейчас мы находимся на заре технологий ИИ. Но все еще остаются вопросы, ответы на которые нам только предстоит отыскать.
