Прорывные технологии искусственного интеллекта: опасность нарастает

<b>Можно сколько угодно дискутировать на тему: является искусственный интеллект (ИИ) благом или несет опасность для человечества, </b><b>но ясно одно – научно-технический прогресс невозможно остановить, хотим мы или нет, ИИ будет играть все более возрастающую роль в мире.</b><br>

Уже сегодня он ставит диагнозы и назначает лечение не хуже опытного врача, идентифицирует лица, работает адвокатом, сочиняет музыку и рисует картины, обыгрывает чемпионов мира в покер и в го, предсказывает погоду и прочее. ИИ стремительно вытесняет людей из разных областей деятельности. Специалисты считают, что скоро к нему перейдут многие функции управления, анализа и экспертизы, выбор оптимальных вариантов развития экономики и общества в целом.
Масштабные вооруженные конфликты и нарастающее противостояние ведущих экономик мира сами по себе подогревают гонку по созданию все более мощных цифровых умов. Ведущие ученые и научные лаборатории по всему миру втянулись в это негласное соревнование, причина ясна – лидер в сфере ИИ будет править миром. Всем сейчас не до тщательной проверки безопасности и оценки последствий применения нейронных сетей. Главное – опередить конкурентов.
Совсем недавно мы были поражены возможностями языковой модели ChatGPT, с помощью которого можно писать самые разнообразные тексты и создавать любые изображения, уже сегодня миру представлены новые прорывные технологии, которые несут еще более захватывающие возможности и в то же время огромные риски для человечества.

Вспомним, как в 2023 году ради забавы подделывали личности известных людей. Например, выложили в сеть фейковые фотографии Папы Римского в необычном наряде.

Теперь появилась возможность создавать выдуманные цифровые личности, неотличимые от реальных. Например, уже набрали большую популярность фейковые блогеры-инфлюэнсеры, которые полностью сгенерированы искусственным интеллектом. У подписчиков не возникает никаких сомнений, что перед ними говорит, движется, смеется живой человек.

Цифровые инфлюэнсеры могут быть более успешны, чем настоящие люди, потому что их создатели отлично знают, что нужно среднему обывателю и задают блогу проверенный алгоритм коммерциализации. Огромное число подписчиков позволяет зарабатывать миллионы на рекламе и продажах. Возможно, очень скоро мы не будем знать наверняка, кто перед нами: человек, его цифровая копия или придуманный персонаж.

Имитация голоса – это не новое изобретение и уже вовсю используется телефонными мошенниками, но теперь появилась возможность озвучки написанного текста выбранным голосом. Также можно просто наговаривать текст, который ИИ тут же переводит в печатную форму. Очевидно, что данная опция позволит ИИ развиваться еще быстрее, хотя уже сейчас скорость мультипликации нейронных сетей намного превышает ожидания.
Технология DeepFake позволяет в течение трех секунд прослушивания сгенерировать чужой голос. Допустим, к вам домой позвонит чужой человек и поговорит с вашей мамой. Извинится, скажет, что не туда попал. А спустя некоторое время вам позвонит мама и попросит срочно перевести деньги заболевшей подруге и т. п.

Более того, ИИ по одной только фотографии может создать аватар – живой движущийся цифровой образ человека. То есть изображение на экране будет повторять все движения человека за компьютером. А если ему добавить персональные видео- и аудиоданные, то помимо внешности он сможет сгенерировать особенности поведения, движения и голоса. Таким образом, видя на экране своего близкого, знакомого, слыша его голос и наблюдая знакомые жесты, мы не сможем быть уверенными, что это он, а не его цифровой двойник.

Увидев на экране телефона своего родственника, который просит срочно помочь, или начальника, отдающего странный приказ, будет нелишним прежде всего задать вопросы, ответы на которые знает только настоящий человек. Этот своего рода пароль теперь придется использовать во всех ситуациях подобного рода.
Инновации открывают широкие возможности для создания фейкового компромата. Например, участия выбранной жертвы в порнофильме, в контрабанде наркотиков и прочее. Очевидно, что 2024 и 2025 годы станут чемпионами по фальшивым изображениям, записям секретных переговоров, постановочным видео и другим фальсификациям в связи с множеством проводимых в разных странах выборов. И подобного рода информация будет вполне ожидаемо воздействовать на людей, потому что фейковые технологии на самом деле успешно работают.

Взрывная информация, достоверность которой невозможно проверить, может возбудить массовую агрессию или панику. Это опасно и окончательно размывает границу между реальностью и вымыслом. Мы словно оказались в матрице подобно герою одноименного фильма и не знаем, кому верить, куда идти.
В каждом смартфоне имеется программа предсказательного набора, которая подсказывает нам следующее слово по начальным буквам. Когда вы набираете текст, телефон постоянно пытается предсказать вашу мысль наперед, иногда правильно, иногда нет. Но программа совершенствуется и уже научилась предсказывать следующее предложение. А в 2023 году появилась возможность создавать изображение по текстовому описанию. Если вы достаточно подробно напишите, что нужно изобразить, то получите картину или очень натуральное фотоизображение. Но на этом разработчики не остановились.

Недавно презентованная программа SORA может по текстовому описанию создать вполне правдоподобный или фантастический фильм на любую заданную тему. Можно включить туда выдуманных людей или двойников настоящих людей, животных, разные предметы и даже самого себя. Можно менять зимний пейзаж на летний, степь – на индустриальный город или на средневековую крепость. Для этого не нужны актеры, декорации и даже камера. Все создает ИИ. Пока длительность такого фильма не превышает одной минуты, но понятно, что скоро можно будет создавать видеоролики и полноценные фильмы, используя только компьютер. Знаменует ли это скорую смерть всей человеческой киноиндустрии?

Сейчас лучшие умы человечества заняты разработкой новейших видов вооружения с использованием ИИ. В частности, в США усиленно работают над беспилотными боевыми машинами, управляемыми извне. Уже разработана беспилотная программа для истребителя F-16, который может вести воздушный бой с использованием таких маневров и перегрузок, которые человеческий организм не способен перенести. Однако непредвиденный сбой программы может привести к уничтожению выпущенными ракетами целого города, в том числе и американского, поэтому пока боевой вылет беспилотного истребителя откладывается.

Зато запущен в производство охотник на дронов, который действует в автоматическом режиме. Он сам взлетает, заметив стаю дронов, преследует и уничтожает их в воздухе одного за другим как коршун. Выполнив задание, охотник возвращается в исходную точку.
Конечно, штурмовые отряды из боевых роботов пока из области фантастики, но промышленный робот, управляемый нейронной сетью, может освободить людей от опасных и тяжелых работ. Компания Илона Маска уже запустила в производство человекоподобных роботов – помощников по хозяйству.
Опыт показывает, что достижения научно-технического прогресса используются в первую очередь военными, спецслужбами и злоумышленниками.
Интернет переполнен сообщениями о разного рода мошенничествах с использованием ИИ. Например, люди лишаются своих сбережений после кражи смартфона или перехода по присланной незнакомцем ссылке.

Специалисты по финансовой безопасности рекомендуют при краже смартфона первым делом заблокировать номер у своего оператора, поскольку при переводе крупной суммы программа обычно просит ввести код из СМС, отправленного на телефон, а затем срочно звонить в банк и блокировать все свои счета.
Безопаснее всего в общественных местах пользоваться кнопочным телефоном, а расплачиваться платежной картой, на которой находится минимально необходимая сумма, которую не жалко потерять. Также не рекомендуется отвечать на звонки с незнакомых телефонов, переходить по сомнительным ссылкам и открывать приложения и вложения, присланные неизвестными. При пользовании общедоступным интернетом в аэропортах или на транспорте нежелательно открывать банковские приложения и вносить платежную информацию.

К сожалению, моральные принципы использования ИИ еще не разработаны, и безнаказанность высказываний и действий в сети пагубно влияет на общество.
Очевидно, что для ИИ необходима законодательная база. Должны быть разработаны законы об ответственности за вред, причиненный действиями с использованием ИИ. Следует определить степень правомочности государства использовать технологии, связанные с контролем и надзором за общественной жизнью. При этом необходимо создание единого международного стандарта ИИ и сотрудничество всех стран с целью предотвращения его использования для кибератак, мошенничества, терроризма, шпионажа.

Также назрела необходимость регулирования системы образования с учетом возможной замены людей в разных профессиях роботами и нейронной сетью. По прогнозам Goldman Sachs, в ближайшем будущем из-за ИИ могут потерять работу 300 миллионов человек в мире. Хотя одновременно с этим будет создано и некоторое количество новых рабочих мест.

Илон Маск, Стив Возняк и более тысячи ведущих исследователей ИИ призывают приостановить обучение систем на основе ИИ, потому что даже самим разработчикам непонятно, как именно он работает и обучается. Соответственно, его невозможно полностью контролировать и прогнозировать.
Не исключено, что бездушная машина способна предложить свои способы успешного ведения гибридной войны, что может поставить человечество на грань уничтожения. Пусть блестящие умы, которые создают такие мощные интеллекты, остановятся и договорятся о том, как делать ИИ, который будет работать на пользу, а не во вред человеку.

Ирина КИМ