Алармизм по поводу искусственного интеллекта давно переместился из научной фантастики в реальность. Одни подписывают петиции с требованием запрета военных дронов, другие переживают о том, что роботы сделают всех безработными. Но пока что это все похоже на неолуддитскую истерику, которая всегда сопутствовала прогрессу. Вчера громили ткацкие станки, сегодня объектом ненависти стали роботы.
Однако нашел видео, где об опасностях AI рассуждают здраво. Опасность не в том, что появится коварный Скайнет, который решит убить всех людей. Реальная проблема: сами люди уже сегодня слишком доверяют технологиям. Пример: самообучающуюся нейросеть учили отличать собак от волков. И как-то раз она приняла хаски за волка. Разработчики стали разбираться почему. Думаете потому, что хаски похожи на волков? Нет, оказалось, что на большинстве фото с волками был снег, а на фото с хаски тоже снег. Вот вам и вывод. Т.е. искусственный интеллект - это искусственный идиот.
Тем не менее множество похожих AI нынче используется в куче областей: для распознавания лиц, анализа массивов рекламных данных и т.д. и т.п. Пока что от решения AI зависит дадут ли вам кредит в банке, но в будущем, когда программам начнут доверять постановку медицинских диагнозов, будет зависеть и жизнь. Но сами AI устроены по принципу “черного ящика” - туда может закрасться ошибка. Обвешивать оружием железяки, которые после обновления 1.282874 могут принять хаски за волка, а вас за сомалийского пирата - не такая уж хорошая идея.
Лектор предлагает решать проблему через международные соглашения, которые будут требовать разработки “прозрачных” AI. Это само по себе не кажется реалистичным, учитывая любовь корпораций к коммерческим тайнам, а государств - к военным. Но проблема эта куда глубже: люди беззаветно доверяют технологиям потому, что не доверяют друг другу. И чем больше общество - тем меньше в нем доверия.
Томас Гоббс когда-то писал, что ради установления социального порядка люди отказываются от свободы в пользу одного человека - монарха. Так и “заключается” общественный договор - лучше жить при королях, чем в первобытном хаосе. Но, чтобы такая система действительно работала, монарх должен быть сверхчеловеком, лишенным корысти, пристрастий и прочих людских недостатков. Быть расчетливым и рациональным. Поэтому идеальный монарх - это искусственный интеллект. А то, что сегодня люди готовы доверять свою судьбу AI, лишь бы избежать “человеческого фактора” - реализация гоббсовской мечты на новом витке технологического развития.
! Орфография и стилистика автора сохранены
