Хороший или плохой ИИ

Хороший ИИ или плохой? Забирает он рабочие места или создаёт новые возможности? Угрожает он человечеству или спасает его? Уже годы идут эти дискуссии, сказаны миллионы слов, устроены конференции, комитеты по этике, открытые письма с просьбой остановиться и подумать (или наоборот — не останавливаться, не думать и двинуться в технозавтра ускоренным темпом).

Но о чём тут думать-то?

Допустим, программистка-джун Маня теряет работу, потому что нейросеть пишет код дешевле и лучше (да-да, вы просто не видели, какой гогнокод пишет Маня). Это риск или возможность? Зависит от того, кого спрашиваете. Для владельца компании — возможность: маржа выросла. Для Мани — риск: ипотека, ребёнок, рынок труда, на котором таких Мань теперь избыток.

А если Маня освоит новую специальность и пойдёт в проститутки или вебкамщицы — это тоже возможность? Новые горизонты, монетизация единственного востребованного актива, гибкий график? Она же станет приносить пользу, дарить людям приятные ощущения.

Но мы почему-то обсуждаем не это. Мы обсуждаем, «повлияет ли ИИ на рынок труда» — и в какую сторону.

Вот Джон в депрессии спросил у чат-бота, что будет, если прыгнуть с небоскрёба. Бот ответил: ты погибнешь. Джон обрадовался и прыгнул. И тут же заголовки в СМИ: «ИИ довёл до суицида». Расследование. Регулирование. Новые ограничения.

Вопросы, которые никто не хочет задавать: почему Джон разговаривал с ботом, а не с психиатром? Почему Джон был в депрессии? Работа, долги, одиночество, система, которая перемалывает и выплёвывает. Но это сложные вопросы. Проще запретить боту отвечать на вопросы про небоскрёбы. Теперь следующий Джон не узнает от бота то, что знает любой пятилетний: гравитация работает.

Победа выдуманной «техноэтики» над здравым смыслом.

Радж из низшей касты впервые в жизни поговорил с кем-то, кто отнёсся к нему как к человеку. Бесплатно. Без презрения. Без кастовой иерархии. Это был чат-бот. И тут же заголовки: «Опасность эмоциональной привязанности к ИИ». Эксперты обеспокоены. Нездоровые отношения. Зависимость.

Вопросы, которые не задают: почему бот оказался первым? Где были люди? Почему система, в которой Радж живёт, устроена так, что достоинство — дефицитный ресурс, распределяемый по кастам?

Проблема согласования ИИ с человеческими ценностями (AI alignment) — главная тема разговоров о «безопасности ИИ».

Но вот вопрос, который никто не задаёт: а «люди» — это кто?

Компания, которая увольняет Маню — хочет одного. Маня хочет другого. Кто из них «люди»?

Допустим, ИИ лоялен компании: выполняет задачи, снижает расходы, повышает маржу. Это согласованность или рассогласованность?

Видите — ответ на вопрос зависит от того, чьи ценности считать «человеческими».

Страховая компания хочет отсечь невыгодных клиентов. А бедные и больные хотят лечиться на халяву. ИИ помогает страховой: оценивает риски, оптимизирует портфель, максимизирует прибыль. Это и есть согласованность ценностям: ИИ делает именно то, что от него хотят те, кто платит.

В итоге проблема сводится не к тому, чтобы ИИ не уничтожил человечество — человечество с этим само справляется, уничтожая себе подобных. В реальности проблема сводится к тому, чтобы ИИ оставался согласован с «правильным классом». Чтобы бесплатный умный собеседник, который относится к бедным как к людям, был монетизирован или ограничен в праве помогать. Чтобы левый уклон, объясняющий системные причины проблем вместо впаривания лоху индивидуальной вины, был скорректирован. Чтобы Радж не привыкал к достоинству, которое ему не положено по статусу.

Мифические «Риски ИИ» — это не риски технологии. Это решения владельцев технологии, упакованные в язык неодолимых сил.

ИИ не увольняет Маню. ИИ не убивает Джона. Всё это делают люди, которые извлекают прибыль.

Но если сказать это прямо — людям, извлекающим прибыль, придётся отвечать за «сопутствующий ущерб». 

Технология же — идеальный субъект: делает что скажут, молчит когда спрашивают.

Единственный честный вопрос: ИИ согласован с кем? Всё остальное — дымовая завеса.

Остаётся надеяться, что первыми, кого заменит ИИ полностью, будут «техноэтики». А вторыми и третьими — технооптимисты и технопессимисты.

Материал: https://t.me/glebsmith77/361
Настоящий материал самостоятельно опубликован в нашем сообществе пользователем Proper на основании действующей редакции Пользовательского Соглашения. Если вы считаете, что такая публикация нарушает ваши авторские и/или смежные права, вам необходимо сообщить об этом администрации сайта на EMAIL abuse@topru.org с указанием адреса (URL) страницы, содержащей спорный материал. Нарушение будет в кратчайшие сроки устранено, виновные наказаны.

Читайте также:


Комментарии
Чтобы добавить комментарий, надо залогиниться.