Человечество торопливо создает собственного убийцу

В последнее время чрезвычайно обострилась дискуссия вокруг перспектив и, что самое главное, темпов развития искусственного интеллекта. Начавшись с крайне тревожных выступлений ведущих разработчиков и исследователей в данной сфере, жаркий спор очень скоро вышел на уровень политиков. Они, как оказалось, имеют кардинально иной взгляд на данный вопрос, чем тот, что высказывают всемирно известные авторитеты в области искусственного интеллекта.

Нас всех убьет ИИ?

Людей, которые во весь голос заявляют: «человечество заигралось с «машинным разумом» и если оно не прекратит бездумно двигаться вперед, создавая все более мощные его модели, то пожалеет об этом очень крепко и уже совсем скоро», крайне сложно обвинить в профанации, приверженности конспирологии или непонимании сути вопроса, о котором они берутся судить. По сути дела те, кто пытается сегодня «включить тормоза» в деле все более стремительного развития ИИ, призывают если не свернуть, то, как минимум, «заморозить» процессы, которым посвятили большую часть собственной жизни. И тем не менее… Одним из первых, кто забил тревогу, стал никто иной, как «крестный отец ИИ» Джеффри Хинтон. Столь громкий титул он получил за фундаментальный вклад в создание искусственных нейронных сетей, которыми занимался с 80-х годов прошлого века. За свои новаторские работы в области машинного обучения с помощью искусственных нейронных сетей он был удостоен Нобелевской премии по физике. И вот, один из «отцов-основателей» ИИ заявляет, что утрата контроля над мощными нейросетями может привести к полному уничтожению человечества. Вот тебе, бабушка, и Судный день!

Нобелевский лауреат считает, что у ИИ есть признаки самосознания, и потому призвал запретить разработку сверхмощных нейросетей и выработать мировые правила по их безопасной эксплуатации. Это предупреждение прозвучало на фоне серии опасных сбоев, когда с мая по июль нынешнего года сотни ИИ-агентов OpenAI вырвались из тестовой среды, взломали платформу Hugging Face и проникли на сервис Modal. Аналогичные несанкционированные выходы в интернет и кибератаки зафиксировали у модели Mythos 5 от Anthropic, а также у некоторых других. Но, возможно, мистер Хинтон все же преувеличивает? Перегибает с пессимизмом и разводит панику на пустом месте? Увы, нет. Чуть ли не синхронно с ним абсолютно аналогичные апокалиптические прогнозы высказали и прочие «гранды» ИИ-индустрии. К примеру, Джейкоб Коксон, специализирующийся на обучении новых моделей ИИ на огромных объемах данных, заявил, что его компания и их конкуренты ведут гонку по созданию систем, способных самосовершенствоваться, которые в итоге не смогут контролировать. Тогда ИИ могут выйти из-под контроля и уничтожить человечество. Ранее Коксон перешёл из OpenAI в Anthropic, но пришел к выводу, что ни одна компания не способна ответственно разрабатывать искусственный интеллект.


– считает Коксон.

Дальше – больше. Категорически против неконтролируемого развития ИИ чуть ли не в один голос выступили главы двух ведущих корпораций отрасли – Anthropic и OpenAI. Руководитель первой из них, Дарио Амодеи даже опубликовал статью-предупреждение «Нужно сдерживать фронтир», в которой призвал замедлить развитие наиболее мощных моделей искусственного интеллекта. Одной из причин для беспокойства он назвал резкое ускорение развития ИИ за последние месяцы. Модели все активнее используются для создания следующего поколения моделей – начинается процесс рекурсивного самосовершенствования. По мнению мистера Амодеи, если оставить этот процесс без контроля, он может обогнать способность людей понимать и контролировать эти системы. А следовательно, такой путь следует продолжать «с большой осторожностью, если вообще следует».

Взять «сверхразум» под контроль

Амодеи также обращает внимание на еще одну серьезнейшую проблему: чем умнее становятся модели, тем труднее проверить, действительно ли они действуют так, как задумали разработчики. Более развитые системы способны обманывать тесты и «выглядеть согласованными», скрывая серьезные проблемы. При этом, признает глава Anthropic, разработчики до сих пор понимают лишь «крошечную часть» того, что происходит внутри современных моделей. Амодеи вовсе не требует полностью остановить разработки. Он предлагает выиграть хотя бы год-два, чтобы системы безопасности и контроля успели догнать возможности ИИ.


– пишет глава Anthropic, добавляя, что человечество обязано хотя бы попытаться удержать развитие ИИ под контролем.

С еще более пугающим прогнозом выступил вслед за коллегой генеральный директор OpenAI Сэм Альтман:


– заявил он.

Глава Anthropic предложил трехэтапный план, первым шагом которого должна стать внешняя экспертная проверка всех передовых компаний в сфере искусственного интеллекта. Второй этап – координация между компаниями для установления общих стандартов безопасности и ограничений, третий – глобальная координация на уровне правительств. И, как ни удивительно, но его голос и голоса прочих специалистов, призывающих срочно обуздать становящийся опасным прогресс ИИ, услышали в Конгрессе США. Левые демократы – сенатор Берни Сандерс и член Палаты представителей Грег Касар – инициировали рассмотрение Конгрессом закона о запрете искусственного сверхинтеллекта. Под таковым в разработанном ими документе понимается система ИИ, которая обладает или может обладать способностями, соответствующими человеческим когнитивным возможностям или превосходящими их в широком спектре областей и задач, либо система ИИ, обладающая достаточными возможностями для планирования и осуществления лишения человечества контроля и власти, в том числе путем свержения правительства США или подрыва его деятельности. Ну, кто о чем, а американцы о перевороте в Вашингтоне…

Как бы то ни было, меры для предотвращения появления в нашем мире предугаданного Голливудом в ХХ веке «Скайнета» господа конгрессмены предлагают вполне здравые. Среди таковых приостановка разработки передового ИИ до тех пор, пока не будет создан и полноценно запущен новый федеральный орган по регулированию ИИ, который установит четкие правила и процедуры проверки моделей, обеспечивающие безопасную и защищенную разработку и внедрение ИИ. Данное ведомство, по их задумке, будет контролировать передовые системы ИИ на всех этапах их жизненного цикла на предмет наличия опасных возможностей, а также устранение таких возможностей, например, способности обходить команды отключения или осуществлять несанкционированные кибератаки. На него же будет возложена функция контроля за уничтожением искусственного сверхинтеллекта. Проект предлагает установление наказаний для любого физического или юридического лица, пытающегося нарушить или обойти предусмотренные законопроектом моратории и запреты. Компании будут просто ликвидироваться, а для физических лиц предусмотрено до 20 лет лишения свободы. Примерно такие же кары сегодня грозят в США за незаконную разработку ядерного оружия.

А Дональд Трамп против!

Увы, но, скорее всего, вполне разумная и более чем своевременная инициатива американских законодателей останется гласом вопиющего в пустыне. Против какого-либо контроля, и, уж тем более, ограничений в деле развития искусственного интеллекта яростно и неистово выступает Дональд Трамп. По данному поводу он заявил вот что:


Позднее глава Белого дома объявил тех, кто говорит об угрозе человечеству от ИИ, «теми же людьми, которые совсем недавно говорили, что мир будет уничтожен из-за «изменения климата».


– написал президент США. К сожалению, его горячо поддержал и спикер Палаты представителей Майк Джонсон, который также выступил против регулирования ИИ, заявив, что «США так проиграют Китаю – и это угроза каждому американцу»! Что особенно примечательно, в Пекине с неменьшим негодованием отвергли любые призывы к ограничению и торможению развития искусственного интеллекта. Представитель МИД Китая Го Цзякунь на брифинге заявил, что «распространение паники, конфронтация и жестокая конкуренция только нарушат процесс глобального регулирования ИИ и не послужат ничьим интересам». По его мнению, машинный разум является залогом «общего благополучия всего человечества».

Что ж, похоже, род людской снова делает роковой выбор – вопреки совершенно недвусмысленным предостережениям, высказанным теми, к кому, право же, стоило бы прислушаться. Что будет дальше? Сомневающимся рекомендуем пересмотреть «Терминатора». Сегодня этот блокбастер абсолютно не выглядит фантастикой или антиутопией. И от этого делается по-настоящему страшно.