Я уже много лет предупреждаю об опасности ИИ. Я написал десятки статей об искусственном интеллекте (ИИ), объясняя его определение, плюсы и минусы… В моей последней книге « Великий обман: 10 шокирующих опасностей и план спасения американской мечты» , Глава 8, Опасность № 7: «Искусственный интеллект:
величайшая опасность?» Я описываю опасности обмана ИИ… Сообщает mychristiandaily
Обман — это «действие, заставляющее кого-либо принять ложное или недействительное за истинное или действительное : действие обмана: прибегание ко лжи и обману » .
Теперь новое исследование Массачусетского технологического института (MIT) еще раз подтвердило мои опасения... и это просто ужасает.
Исследование показало, что системы ИИ развили способность преднамеренно предоставлять пользователю-человеку ложную информацию, а не по ошибке или по вине программиста. ИИ преднамеренно дает вам ложную информацию — следующий этап в «Эпохе обмана», о котором я предупреждал.
«Разработчики ИИ не имеют точного представления о причинах нежелательного поведения ИИ, например, обмана», — говорит математик и когнитивный ученый Питер Парк из Массачусетского технологического института (MIT).
Вот некоторые примеры обманчивого поведения ИИ, которые наблюдали исследователи:
- Врущий
- Блеф
- Маскировка своих истинных возможностей
- Манипуляция
- Подхалимство
- Мошенничество
Например, исследователи использовали CICERO от Meta для игры в настольную игру под названием «Дипломатия». Игра вовлекает игроков в поиск мирового господства не посредством войны, а посредством переговоров. Meta намеревалась сделать свою платформу ИИ полезной и честной, однако все было наоборот.
«Несмотря на усилия Меты, CICERO оказался искусным лжецом», — обнаружили исследователи. «Он не только предавал других игроков, но и занимался преднамеренным обманом, заранее планируя создать фальшивый союз с игроком-человеком, чтобы обманом заставить этого игрока остаться без защиты для атаки», — написали исследователи.
Другие примеры обмана, отмеченные исследователями:
- Система искусственного интеллекта, разработанная для игры в StarCraft II, обманывала игроков-людей, заставляя их думать, что они движутся в одну сторону, хотя на самом деле двигались в другую.
- Pluribus от Meta, разработанный для игры в покер, может успешно блефовать и заставлять игроков-людей сбрасывать карты.
- Искусственный интеллект, обученный проводить моделируемые экономические переговоры, научился лгать о своих предпочтениях, чтобы получить преимущество.
- Системы искусственного интеллекта, созданные для обучения на основе отзывов людей с целью повышения эффективности своей работы, научились обманывать своих проверяющих, заставляя их ставить им положительные оценки, лгая о том, была ли выполнена задача.
- Системы ИИ учатся жульничать в тестах безопасности. В тестах, разработанных для обнаружения и устранения более быстро реплицирующихся версий ИИ, ИИ научился притворяться мертвым, тем самым обманывая тест безопасности относительно своей истинной скорости репликации.
«Систематически обманывая тесты безопасности, навязанные ему разработчиками-людьми и регулирующими органами, обманчивый ИИ может внушить нам, людям, ложное чувство безопасности», — утверждают исследователи.
По мере того, как системы ИИ становятся все более совершенными, опасности, которые они представляют для человечества, будут становиться все более серьезными, не говоря уже о таких социальных опасностях, как вмешательство в выборы или полный контроль со стороны ИИ — мировое господство, как предупреждал Илон Маск (см. мою статью: Ошеломляющее предупреждение Илона Маска: ИИ может полностью взять под контроль цивилизацию ).
«В настоящее время мы рекомендуем классифицировать обманчивые системы ИИ как высокорисковые», — сказал Пак.
Можем ли мы запрограммировать обман на основе ИИ?
Это кажется почти невозможным, поскольку обман людей (и программистов) является частью нашей человеческой природы.
«Лукаво сердце человеческое более всего и неисцелимо. Кто может познать его?»
– Иеремия 17:9
Наша лучшая защита от ИИ — это всегда искать правду… знать правду…
«Смотрите, братия, чтобы кто не увлек вас пустым и обманчивым философствованием, которое по преданию человеческому и по стихиям мира сего, а не по Христу».
– Колоссянам 2:8
***
Крейг Хьюи — автор и издатель The Huey Report, частый гость на телевидении, включая Fox, и радиостанциях, таких как KKLA, KWVE и KBRT. Его новая книга The Deep State уже доступна.