Минутка науч-слопа. Британские учоные — они уже везде. Я, знаете ли, пережил на выходных занятный опыт. Включив по привычке перед сном некий научно-популярный фильм с ВКонтактика (закадровый голос плюс иллюстративная фотовидеонарезка), обещавший мне рассказать об эволюции позвоночных — я вдруг прямо сквозь дрёму начал удивляться «что ты блин такое несёшь».

Там были птицы, «произошедшие от псовых».

Там был загадочный скат «длиной 3 метра 100 сантиметров».

Там была змеевидная безногая ящерка-двуходка, обозванная «сохранившимся до наших дней млекопитающим».

Одним словом, это был первый случай, когда я встретил ИИ-творчество в научпопе со всеми его галлюцинациями.

И, как сообщается, это сейчас растущая проблема не только (и не столько даже) в масс-маркете, сколько в реально научной прессе и литературе. Свежая статья в Observer:

«В конце прошлого года редактор научного журнала Бен Уильямсон читал многообещающую статью, отправленную в редакцию, и заметил своё имя в сноске. Она была прикреплена к исследованию под названием «Образование, управление и датафикация». Звучало достаточно правдоподобно. Статья была посвящена его области знаний — цифровому образованию; в качестве соавторов были указаны люди, с которыми он действительно сотрудничал; и, казалось, она была опубликована одним из самых уважаемых издательств в академической среде.

Но Уильямсон-то точно знал, что это фейк. Как редактор журнала, он уже был знаком с растущей проблемой: чат-боты с искусственным интеллектом, которые «галлюцинируют» ссылки на несуществующие статьи. Однако то, что он обнаружил дальше, было ещё более странным.

Когда Уильямсон поискал фантомную статью в интернете, он говорит, что она «обрела собственную жизнь». Согласно Google Scholar, несуществующая статья была процитирована более 70 раз в других журналах — и даже в одной книге. В день нашего разговора он только что получил текстовое сообщение от коллеги-ученого: студент сослался на это исследование в статье об использовании ИИ в образовании – «неприятный поворот в конце этой истории», – говорит он».

«Научслоп» сейчас составляет растущий процент в общей массе статей — некоторые оценивают его уже в 15-20%. Что ещё веселее, сообщает нам Scientific American, ИИшки разных гигантов сговорились и теперь массово ссылаются на несуществующие научные журналы, исследования и публикации.

В итоге мир некоторым образом стоит перед офигенной перспективой: каждый первый раз, когда мы заходим в интернеты, мы с каждым днём всё сильней рискуем напороться на нерукотворный бред неутомимых роботов.

Что, в свою очередь, лишний раз подчеркнёт красненьким идею о том, что времена халявы — всё, и теперь каждому из нас придётся быть в ответе за те знания, которые мы получили.