Искусственный интеллект и казавшиеся еще недавно фантастическими технологии проникают во все сферы нашей жизни. И это многим кажется очень опасным.
Дело тут даже не в том, что, как говорят аналитики, нейросети могут оставить некоторых людей без работы и поменять всю сферу труда — хотя и в этом мало притяного. Существует гораздо более серьезная угроза.
Генерал армии США Джон М. Мюррей недавно дал интервью, в котором рассказал, что когда дело доходит до боевых действий, людям вскоре придется нелегко, потому что мы просто не можем реагировать на скоростях, на которых может работать искусственный интеллект. А именно на его основе будут создаваться новые виды оружия.
Считается, что дроны-убийцы с искусственным интеллектом уже использовались во время столкновений между соперничающими группировками в гражданской войне в Ливии.
Генерал-лейтенант Джон «Джек» Шанахан, директор Объединенного центра искусственного интеллекта, говорит, что сейчас многие, в том числе, и Америка, продвигаются вперед с системами оружия, управляемыми ИИ, или так называемыми «роботами-убийцами».
Но самое страшное, что все это может выйти из-под контроля, и роботы в прямом смысле слова начнут истреблять людей.
Доктор Дэвид Леви, ведущий эксперт по искусственному интеллекту, заявил Daily Star, что для предотвращения глобального опустошения необходимы самые строгие меры. И приняты они должны быть уже сейчас.
«Существует множество вариантов поведения роботов, которое причинит вред человеку, и не только из-за того, что используются неверные данные или из-за ошибки конструкции. Система оружия с искусственным интеллектом также может представлять угрозу из-за злонамеренного вмешательства людей, обладающих навыками взлома роботов и управления ими», — сказал доктор Леви.
Доктор Леви сказал, что система оружия с искусственным интеллектом также может представлять угрозу из-за «злонамеренного вмешательства людей, обладающих навыками взлома роботов и управления ими».
Еще в октябре 2018 года Цзэн И, старший руководитель китайской оборонной фирмы Norinco, выступил с речью, в которой сказал, что «на будущих полях сражений не будет сражающихся людей» и что использование смертоносного автономного оружия в боевых действиях неизбежно. Но вспомните, как часто компьютеры могут выдать нам результат, который мы не хотели и не планировали.
Кстати, угроза от оружия на основе искусственного интеллекта не обязательно должна исходить от государств. Бывший эксперт Пентагона по оружию Пол Шарре предупреждает, что вскоре кто-то может построить «простое и смертельное автономное оружие в своем гараже». Противники технологии опасаются, что даже небольшая ошибка программирования может привести к катастрофе «Судного дня» (читайте также: «Раса сверхлюдей»: бывший инженер Google раскрыл правду об искусственном интеллекте — что ждет человечество через 8 лет?).
Стив Гуз, директор по вооружениям Хьюман Райтс Вотч, говорит: «Всем странам нужно искать путь, чтобы запретить системы оружия, основанные на искусственном интеллекте. Мир не может ждать» (читайте также: «Победы не будет»: предсказатели в один голос говорят о новой опасности — она уже рядом).