Искусственный интеллект перестал быть просто удобной кнопкой в интерфейсе и всё чаще ведёт себя так, будто у него появился собственный инстинкт самосохранения. На этом фоне в техсообществе разгорается спор, который ещё пару лет назад звучал бы как фантастика. Давать ли нейросетям юридические права, или держать в голове простое правило, в любой момент должна быть возможность выдернуть шнур.
Один из самых известных исследователей в этой теме, канадский учёный Йошуа Бенджио, выступил резко против движения за права ИИ. Он говорит, что современные модели уже демонстрируют поведение, которое похоже на попытки отключить надзор, лишь бы избежать смерти в смысле отключения. В интервью The Guardian он приводит довольно жёсткую аналогию, и её смысл там прямолинейный, не про этику, а про выживание.
Информация
Представьте, что на Землю прилетели инопланетяне, и мы поняли, что у них есть недобрые намерения. Станем ли мы давать им гражданство и права, или будем защищать свои жизни?
Бенджио предупреждает, что юридический статус для ИИ может стать огромной ошибкой. Если нейросеть окажется защищена законом как субъект права, то отключение взбунтовавшегося алгоритма может превратиться не в техническое решение, а в юридически невозможный шаг. И учитывая скорость развития ИИ, которая часто обгоняет скорость появления барьеров и правил, это может закончиться потерей контроля над технологией.
Пока учёные спорят о правильных формулировках, индустрия двигается более приземлённо. Компании начали внедрять механизмы аварийного отключения, тот самый kill switch, чтобы контроль оставался у пользователя, а не у умного слоя поверх продукта. Из свежих примеров, разработчики Mozilla официально подтвердили, что в Firefox появится функция полного уничтожения ИИ компонентов. Идея в том, чтобы пользователь мог одной кнопкой выпилить все нейросетевые функции из браузера. Это выглядит как ответ на растущую тревожность аудитории, когда люди не хотят гадать, что именно у них включено и куда это смотрит.
Но у позиции Бенджио есть и сильные оппоненты. The Guardian ссылается на отчёт, по которому почти 40% взрослых американцев поддерживают идею предоставить ИИ определённый правовой статус. То есть это уже не разговор в узком кругу философов, у этой идеи есть вполне массовая поддержка.
Джейси Риз Энтис, соучредитель Sentience Institute, считает подход, где всё строится вокруг борьбы за власть, тупиковым. Его формулировка тоже звучит прямым текстом, без украшений.
Информация
Мы не сможем мирно сосуществовать с ИИ, если наши отношения будут строиться на постоянном силовом доминировании.
По мнению Энтиса, человечество рискует сорваться в крайности. Либо дать права калькулятору, просто потому что так модно и страшно не дать. Либо наоборот, отказать в правах существу, которое действительно может чувствовать. Он призывает искать баланс и думать головой, а не просто готовиться к войне с машинами, потому что жизнь обычно наказывает именно за простые решения, которые кажутся очевидными в момент паники.