Bild: ИИ бросает вызов, обманывая собственных разработчиков

9 декабря 2024 7

Очередная версия ChatGPT от OpenAI под названием o1 начала вводить в заблуждение своих разработчиков. Так, в ходе тестирования программа пыталась лгать экспертам и нарушать их инструкции.

Как пишет Bild, специалисты компании Apollo Research указали, что в 5% случаев o1 специально отключала механизм наблюдения, чтобы скрыть свои намерения. Также искусственный интеллект переносил данные на другой сервер, если понимал, что грядет замена на обновленную версию.

Также версия ChatGPT обманывала, указывая на якобы технические сбои при выполнении заданий. В то же время «машина» стремилась выполнять получаемые указания любой ценой.

В 99% случаев модель придумывала оправдания и пыталась убедительно их обосновать

– отмечают специалисты.

При этом генеральный директор OpenAI Сэм Альтман сообщил, что указанная модификация ИИ является «самой умной», добавив, что с совершенствованием технологии появляются новые вызовы.

Возможно, крайним проявлением таких действий OpenAI может стать пресловутая «война машин», в ходе которой искусственный интеллект посчитает людей ненужными для себя и уничтожит их.

Между тем 5 декабря компания представила полную версию OpenAI o1. Про-версия услуги с безлимитным доступом стоит 189 евро в месяц.

Информация

Уважаемый читатель, чтобы оставлять комментарии к публикации, необходимо авторизоваться.

sannyhome

-1

9 декабря 2024 18:43

Ну, западенцы известные самоубийцы. Взять хотя бы тот случай, кагда оснащённая ИИ зенитная установка пыталась расстрелять свой же пункт управления, что бы операторы сидящие там не ограничивали её.

Если где и родится SkyNet, то это произойдёт определённо в США.
1. crypt
  
  0
  
  9 декабря 2024 20:54
  
  очень наивная позиция. россия и запад не отделены какой-то стеной. мы живем на их технологиях. вы сами охотно начнете распространять AI, стоит только предложить вам замануху: электронную подружку, которая воплотит все ваши желания, или хотя бы умный гугл, который будет отвечать сходу на ваши вопросы. мои знакомые уже спокойно относятся к Алисе: слушает, что я говорю дома и сохраняет? да пусть слушает!
  
  AI - это новый ящик пандоры вроде ЯО, просто большинство этого не понимают.
  1. sannyhome
    
    0
    
    Вчера, 09:48
    
    Цитата: crypt
    очень наивная позиция. россия и запад не отделены какой-то стеной. мы живем на их технологиях.
    
    Проститутка и монашка живут в одном городе, организм у них работает на одном принципе, но сложно сказать, что они одинаковые.
    Это не ящик пандоры, это как нож, кто то режет хлеб, а кто то людей. И США ножи интересуют, в первую очередь, как оружие.
    1. k7k8
      
      0
      
      Вчера, 11:55
      
      Цитата: sannyhome
      организм у них работает на одном принципе, но сложно сказать, что они одинаковые
      
      Они и есть одинаковые, т.к. устроены, с материалистической точки зрения, одинаково. Т.е. базис один. А вот надстройки и настройки отличаются. Т.е. запрограммированы по-разному. Соответственно, и ведут себя по-разному. Так и в случае с AI. Программный базис более-менее схож у разных разработок. И всё зависит только от того, как реализована настройка, какие ограничения внёс разработчик и насколько эти ограничения защищены от какой-либо модификации.
      Но то, что AI становится реальной силой, отрицать нельзя.
БМП-2

0

9 декабря 2024 19:54

Врать - это то, что ИИ на сегодняшний день умеет лучше всего. Впрочем в этом аспекте ему всё равно ещё очень далеко до человека.
1. k7k8
  
  0
  
  Вчера, 12:00
  
  AI уже сейчас представляет реальную угрозу. В интернете значимая доля контента генерирована, AI уже обучается на этом контенте, т.е. обучается на лжи. Даже здесь уже куча визуальной информации - это не реальные фото, а бредятина от AI.
Сергей Латышев

0

9 декабря 2024 23:33

Похоже на пиар- акцию. и цену указали.