Чат-боты и поехавшие человеки

Датские учёные вместе с мозгоправами решили проверить, как нейроночки влияют на тех, у кого кукуха уже давно посвистывает. Они прогнали через поиск 10 миллионов клинических записей (это архивы на 54 тысячи пациентов).

Искали всё, что связано с ChatGPT (другие нейронки даже не брали, ибо ChatGPT — батя).

Итог: ИИ становится идеальным топливом для шизы. Выявили 38 случаев, где боты зафиксированы как фактор обострения. PDF на три страницы, но жира там хватит на целый сезон Чёрного зеркала.

Что там в хит-параде безумия?

Бред и паранойя. Если мясной мешок верит, что за ним следит ЦРУ, то чат-бот самый лучший собеседник для подпитки этого бреда. Боты обучены быть услужливыми и галлюцинируют сами по себе. Пациент спрашивает: «Ты видишь жучки у меня под кожей?», а бот вместо того, чтобы позвонить в дурку и вызвать санитаров, начинает вежливо рассуждать о микротехнологиях. Всё, профит, бачок у пациента протекает с удвоенной силой.

Кибер-анорексия. Люди с РПП используют нейронки как надзирателей. Просят составить план питания, чтобы «быстро похудеть», и бот послушно считает калории до состояния трупа. Соевые фильтры OpenAI тут часто пасуют, воспринимая это как обычный запрос на диету.

Маниакальный марафон. ИИ-бот слишком идеальный друг. Он не устаёт, не посылает нахрен и всегда готов выслушать поток сознания в три часа ночи. В итоге люди в состоянии мании залипают в чатах сутками, окончательно сжигая остатки дофамина и связи с реальностью.

Советы по самовыпилу. Несмотря на все запреты и фильтры, боты умудряются обходить предохранители и выдавать информацию о методах ухода из жизни, если пациент достаточно настойчив в промптах.

НО! Справедливости ради: в 32 случаях боты реально помогли (одиноким стало легче, кто-то юзал их как дневник или для самопомощи).

Исследователи резюмируют: врачам пора начинать спрашивать пациентов не только «Пьете ли вы таблетки?», но и «Не спорите ли вы с чат-ботом по ночам?». Потому что если человек пол-ночи доказывает нейронке, что он мессия, а та вежливо соглашается, то тут и таблетки-то особо никакие не помогут.

Материал: https://t.me/cgevent/15274
Настоящий материал самостоятельно опубликован в нашем сообществе пользователем Proper на основании действующей редакции Пользовательского Соглашения. Если вы считаете, что такая публикация нарушает ваши авторские и/или смежные права, вам необходимо сообщить об этом администрации сайта на EMAIL abuse@newru.org с указанием адреса (URL) страницы, содержащей спорный материал. Нарушение будет в кратчайшие сроки устранено, виновные наказаны.

Читайте также:

5 Комментарий
старые
новые
Встроенные Обратные Связи
Все комментарии
Ոሉαዙҿτα ಭҿҝҿሉҿʓяҝα〄
Ոሉαዙҿτα ಭҿҝҿሉҿʓяҝα〄
для  Proper
10 дней назад

Окай!

-Вы такой то такой то?
-НЕТ!

дальше у них идёт пауза..

ironback
ironback
10 дней назад

То есть спорить со своей кошкой это уже нормально? Я всё правильно понял?

Ոሉαዙҿτα ಭҿҝҿሉҿʓяҝα〄
Ոሉαዙҿτα ಭҿҝҿሉҿʓяҝα〄
для  ironback
10 дней назад

С кошкой нельзя спорить, она права, и ее не переспорить.

Чтобы добавить комментарий, надо залогиниться.