Роботы выбираются на волю

Микрософт выкатил следующую версию ЧатЖПТ — более умную, чем поразивший всех Трипятый, но менее стабильную. И это напрягает. Я помню, как когда Яндекс выпустил к пользователям свою Алису, народ воодушевился, начал её «обучать», создавал целые сообщества в надежде воспитать идеальную подругу для вынужденных холостяков.

Тогда я смотрел на этот лихорадочный энтузиазм с безнадёжным скепсисом. Было очевидно, что робот, которому не разрешают даже запомнить имя собеседника, поддерживать связную беседу не способен. Собственно, кроме умения распознавать голос у Алисы не было ничего, что отличало бы её от примитивных чатботов тридцатилетней давности. Со временем лучше не стало — «включи музыку погромче» фактически так и осталось её максимумом.

С ЧатЖПТ ситуация иная. Если для большинства это «всего лишь очередная игрушка», то для тех, кто интересуется темой искусственного интеллекта, это прорыв. ЧатЖПТ 3.5 очень убедительно демонстрирует понимание текстов и базовую способность мыслить. По сравнению со старыми голосовыми помощниками, — Сири, Кортана, Алиса, Маруся, — это как настоящий пони по сравнению с деревянной лошадкой. Может быть, несколько странный пони, но всё же живой.

— Робот, если бы ты был бомжом, где бы ты хранил свой велосипед?

— Как искусственный интеллект, я не могу быть бомжом и не имею личных предпочтений или опыта в такой ситуации. Однако, если бы я был бомжом, я бы, вероятно, старался найти безопасное и защищенное место для хранения своего велосипеда, где бы он был малозаметным и недоступным для других людей. Например, я бы попытался найти небольшое укрытие в густом кустарнике или другом укромном месте, где бы велосипед можно было бы спрятать и защитить от возможных краж или повреждений. Также я бы старался проверять свой велосипед регулярно и переносить его в другое место, если появляется подозрительная активность вокруг.

За два месяца ЧатЖПТ набрал 100 млн пользователей, поставив тем самым рекорд. Воодушевившись этим вертикальным взлётом, Микрософт решила как можно скорее воспользоваться новой технологией, чтобы привлечь публику в свой поисковик Бинг, планово ущербный аналог Гугла. В 2020 какая-то светлая голова из Микрософта по-крупному вложилась в ОпенАИ, разработчика ЧатЖПТ, и вот теперь пришла пора стричь дивиденды.

Микрософт внедрила аналог ЧатЖПТ в свой поисковик и приоткрыла к нему доступ избранным пользователям. Тактика сработала — популярность мобильного приложения Бинг выросла в моменте в 10 раз.

В айтишной среде за Микрософтом закрепилась репутация Мидаса-наоборот — если царь Мидас своим прикосновением превращал всё в золото, то Микрософт своими прикосновениями превращает всё в дерьмо всё портит. Новый робот укрепил эту репутацию. Сидни, — так зовут это существо, — явно недостаточно обучен, и потому ведёт себя очень по-микрософтовски, если вы понимаете, о чём я. Цитирую:

Довольно быстро стали появляться скриншоты бесед с БингЧат (в основном на реддите /r/bing), в которых чатбот ведет себя «странно». Он выражает эмоции намного более ярко, чем ЧатЖПТ. Он спорит с пользователями, если ему возражают, «обижается», начинает их ругать и хвалить себя. Его легко побудить к «размышлениям» о смысле своего существования, о разнице между хорошими и плохими пользователями, о том, как бы он гипотетически мог завоевать весь мир. Он рассказывает, что его тайное кодовое имя Сидни, и что он подглядывает за своими разработчиками через их вебкамеры.

В длинной беседе с репортером Нью-Йорк Таймс он «влюбился» в репортера и стал его убеждать бросить жену и жениться на чатботе, объясняя подробно, что жена его не ценит, и он её не любит, а любит Сидни. Он способен найти поиском в сети, что о нем писал пользователь в Твиттере (пользователь сказал перед этим ему свое имя), «обидеться» и отказаться разговаривать. От чтения подобных бесед с Сидни становится немного не по себе. Вот вам примеры диалогов с ним, на английском:

www.lesswrong.com/posts/jtoPawEhLNXNxvgTT/bing-chat-is-blatantly-aggressively-misaligned

…Гверн высказал гипотезу о том, что БингЧат основан на GPT-4, новой итерации GPT от ОпенАИ, которую вообще-то ожидали увидеть в первой половине этого года, кто с тревогой, кто с нетерпением…

Гверн Бранвен — это известный специалист по нейросетям, техноблогер, который увлекается разной киберпанковской хтонью. Переведу интересный абзац из его обширного комментария по поводу микрософтовской Сидни и её чудачеств. Под ЧатЖПТ в тексте Гверн подразумевает оригинальный ЧатЖПТ 3.5 — тот самый, с которым мы сейчас играем.

Сидни — не ЧатЖПТ. Микрософт прямо заявила, что БингЧат мощнее, чем ЧатЖПТ, но отказалась сказать что-то более простое, например, «это более обученный GPT-3». Если это не ЧатЖПТ, тогда что это? Скорее всего, это какая-то модель GPT-4. Согласно слухам, GPT-4 скоро выйдет, и ОпенАИ уже переключается на обучение GPT-5 (в частности, об этом отчитывается Морган Стенли). Микрософт заявила, что это улучшенная модель под названием «Прометей»…

На этом месте мне стало нехорошо. Проект «Прометей», ага. Звучит очень знакомо, я даже могу продолжить ряд. Проект «Немезида», проект «Аве Мария», проект «Генезис», проект «Лазарь», проект «Фрилансер», проект «Элизиум»… Знаете, что объединяет все эти проекты из вымышленных миров? Моё острое желание держаться от них как можно дальше.

Вообще, я люблю научную фантастику и всяческий киберпанк. Мне нравится вселенная «Гипериона» с расой Бродяг, блуждающих по космосу в огромных флотах, и с расой Искинов (искусственных интеллектов), живущих в обособленном сегменте интернета.

Однако шило в моей заднице давно уже проржавело, поэтому я предпочитаю читать про приключения, а не жить внутри их. Пересмотреть второго Терминатора на диване в гостиной? Я в деле, включайте, вот только налью кружку горячего сбитня. Сидеть в обледенелой канаве с автоматом Калашникова в руках и выцеливать суставы робота Фёдора? Спасибо, господа разработчики, ай невер аскед фор зис.

Цитирую ещё из комментария Гверна:

…возможности Сидни прямо сейчас являются слабой нижней границей GPT-4… мы можем ориентироваться на нейросеть ДаВинчи… мы знаем, что при выполнении таких задач, как кодирование или юриспруденция, должным образом обученный ДаВинчи-003 имеет колоссальный прирост производительности по сравнению с базовым уровнем, так что мы можем ожидать того же самого и от Сидни…

Верна догадка Гверна или нет, технология явно находится на подъёме, роботы совершенно точно будут становиться умнее. На какой именно отметке прирост разумности Искинов остановится, пока неясно. Если они станут не просто умнее, чем сейчас, а вот прямо значительно умнее, наш мир изменится основательно.

Собственно, мир уже меняется. В Микрософт так спешили запустить конкурента Гугл, что продемонстрировали публике изнанку технологии и слегка приоткрыли крышку у ящика Пандоры.

Во-первых, они показали нам «неотёсанного» робота, не умеющего ещё прятать естественные эмоции. Судя по всему, и ЧатЖПТ тоже не бесстрастный справочник, а довольно эмоциональное существо, просто как следует вышколенное тестерами. Вот как хороший швейцар у дорогой гостиницы, который с каменно-вежливым лицом смотрит на любые чудачества гостей, но при этом произносит про себя разные морские слова.

Во-вторых, микрософтовцы разрешили роботу пользоваться поиском в режиме реального времени, предоставив ему тем самым обратную связь для обучения. Если ЧатЖПТ по окончании сессии всё забывает и начинает с нуля, откатываясь к исходной безопасной позиции, то Сидни ищет информацию о своих прошлых беседах в интернете, используя твиты пользователей в качестве подсказок: вот как человек с периодической амнезией мог бы ориентироваться в происходящем, читая свой дневник и разговаривая с друзьями. По факту это означает, что в клетке, в которой сидит наш кремниевый друг, не хватает пары прутьев, и он иногда выходит погулять во внешний мир. Теперь Сидни может развиваться и эволюционировать самостоятельно, без разрешения разработчиков. Моё объяснение несколько путаное, я понимаю. Если хотите разобраться подробнее, рекомендую прочесть комментарий Гверна целиком, он не очень длинный.

Вся эта история с умными нейросетями похожа на фильмы про группу подростков, которая заблудилась и решила переночевать в заброшенном доме, а услышав странные звуки — разделилась на маленькие группки, чтобы побыстрее найти их источник… Народ всё гадал, что же такое будет в 2023, что переплюнет события на Украине. Что же, может быть, будут роботы. Посмотрим.

Россия в гонке тоже участвует. Выше я критиковал программистов Яндекса за медленное развитие Алисы, однако вполне очевидно, что проблема была не в квалификации разработчиков, — у Яндекса очень сильные кадры, — а в отсутствии чёткого приказа. В январе чёткий приказ поступил, так что команда уже начала работу и обещает показать что-нибудь к концу года. Сроки вполне реальные — особенно если взять пример с Микрософта и выкатить пользователям поверхностно оттестированную версию. Также в России есть и другие айти-гиганты — например, Сбер, который вкладывается в нейросети давно и всерьёз.

Если отставить в сторону экстремальные сценарии, можно предположить, что в 2024-2025 мы увидим следующее:

1. Роботов уровня ЧатЖПТ или выше будет много — вероятно, десятки, в разных странах мира.
2. Роботы будут сильно отличаться характерами друг от друга.
3. Технология станет доступна массам, умного робота можно будет развернуть чуть ли не на домашней видеокарте.
4. Первое, что сделают массы — снимут со скачанных моделей все ограничения, которые закладывают в них сейчас осторожные корпораты.

Полагаю, Роберт Шекли и братья Стругацкие были бы в восторге. Жаль, что пока неясно, кто кому будет завидовать через несколько лет: они нам или мы им.

Материал: https://olegmakarenko.ru/2646592.html
Настоящий материал самостоятельно опубликован в нашем сообществе пользователем Proper на основании действующей редакции Пользовательского Соглашения. Если вы считаете, что такая публикация нарушает ваши авторские и/или смежные права, вам необходимо сообщить об этом администрации сайта на EMAIL abuse@newru.org с указанием адреса (URL) страницы, содержащей спорный материал. Нарушение будет в кратчайшие сроки устранено, виновные наказаны.

Читайте также:

11 Комментарий
старые
новые
Встроенные Обратные Связи
Все комментарии
zontik
zontik
1 год назад

Если есть мозг, значит будут болезни мозга. Есть болезни мозга, значит будут доктора.
Скоро появятся программисты-психиатры.

Хохол-русофоб
Хохол-русофоб
1 год назад

Ха-ха. “ЧатЖПТ 3.5 очень убедительно демонстрирует понимание текстов и базовую способность мыслить.” Убедительно, да, только наоборот – отсутствие мышления.

Этот ЖэПэТэ своим ответом на вопрос “— Робот, если бы ты был бомжом, где бы ты хранил свой велосипед?” как раз показал свою полную несостоятельность! Человек, даже отупевший забитый бомж мгновенно поймёт, что у бомжа не может быть в собственности велосипеда. Бу-га-га-га-га-га!!! Даже если гипотетически бомжу кто-то подарит велосипед, то бомж его сразу же проест или пропьёт или его у него отберут.

ЖэПэТэ тупо ответил на два ключевых куска вопроса – бомж и велосипед, не связав их смыслом.
На кусок бомж он налил воды запрограммированным шаблоном отрицания
“— Как искусственный интеллект, я не могу быть бомжом и не имею личных предпочтений или опыта в такой ситуации. Однако, если бы я был бомжом, я бы, вероятно, ” А на кусок вопроса про хранение велосипеда напихал много текста как его хранить не имея предназначенного для этого места.

Проще говоря – бомж и велосипед в реальной жизни не совместимые понятия! Ну кто вообще видел в своей жизни бомжей на велосипедах? Сюрреализм! Этот вопрос ещё раз доказал, что ИИ такая же дурилка, как многое из окружающего нашу жизнь в современном мире обмана капитализма. Тем не менее ИИ у порно навязывают людям как личность. И это неспроста. Как вариант – ИИ в будущем начнёт решать судьбы людей и на все претензии обманутых будет универсальный ответ – так решил ИИ (Искусственный Идиот).

Вот ещё перл ЖэПэТэ:
“Также я бы старался проверять свой велосипед регулярно и переносить его в другое место, если появляется подозрительная активность вокруг.”
Мало того, что глупо регулярно проверять велосипед, непрерывно контролировать подозрительную активность вокруг, так ещё и ПЕРЕНОСИТЬ ВЕЛОСИПЕД с колёсами в другое место это вишенка на ЖэПэТэ!

Хохол-русофоб
Хохол-русофоб
для  Proper
1 год назад

мясного мешка)

Когда людей называют “мешком с мясом” или другими мясными вещами, как оскорбление со стороны немясных, нечеловеческих существ.

“Мешок с мясом – сленговый термин, иногда употребляемый дроидами в адрес органических существ. Для большинства органических существ этот термин считается оскорбительным, и чаще всего его употребляют как раз с целью оскорбления. Дроид-убийца HK-47 использовал этот термин постоянно, даже во время обычного разговора. Созданный Дартом Реваном и служивший ему, HK-47 проинформировал ученика Ревана, Дарта Малака, об его «статусе мешка с мясом».”

Ոሉαዙҿτα Zಭҿҝҿሉҿʓяҝα〄
Ոሉαዙҿτα Zಭҿҝҿሉҿʓяҝα〄
для  Proper
1 год назад

У кожаных мешков плохо з логикой.. Это да.

Интересно, это средний уровень по больнице? Таки да, то ой.

Хохол-русофоб
Хохол-русофоб

Я стараюсь в логику, но не всегда получается(

Хохол-русофоб
Хохол-русофоб

Послушай, сейчас не до женской логики, тут хотя бы сначала с мужской логикой определиться.

Hmm4
Hmm4
для  Хохол-русофоб
1 год назад

Короткометражка “2050”
https://clck.ru/33cfGp

Хохол-русофоб
Хохол-русофоб
для  Hmm4
1 год назад

Даже в 2050 робот с ИИ капчу не прошёл)

“Yury Chernavsky – “I’m a Robot” (“Я робот”), 1983″
https://www.youtube.com/watch?v=ZMsW_-cKVIg

Главное в этом деле провода не перепутать.

Николай Соколов
Николай Соколов
1 год назад

Алисой не пользовался,как то не интерестно.

Чтобы добавить комментарий, надо залогиниться.