Республика Корея первой в мире начала законодательно регулировать ИИ

Проблема так называемых дипфейков (фото/видеоизображений, сгенерированных искусственным интеллектом и практически неотличимых от настоящих) стоит очень остро во всем мире. Дипфейки позволяют безнаказанно фальсифицировать данные, порочить отдельных людей и целые страны, манипулировать сознанием людей, проводить идеологические диверсии, разнообразные мошеннические действия и прочее. Из-за этого уровень доверия к СМИ и правительствам катастрофически падает, страдают компании и миллионы обычных людей.

Высокоэффективный или самообучающийся ИИ еще более опасен. Если с ошибочно начисленной суммой в коммунальной квитанции за свет и воду можно разобраться, то ошибки в сфере транспорта чреваты авиа- и железнодорожными катастрофами, что в последнее время наблюдается с незавидным постоянством. И если человека можно уволить за профнепригодность, то наказать компьютер невозможно.

Южная Корея стала первой в мире страной, которая начала законодательно регулировать искусственный интеллект. Согласно новым законам, все изображения, созданные ИИ, должны четко маркироваться и люди обязаны ответственно контролировать работу компьютерных систем в важных областях.
Хотя парламент Евросоюза еще в 2024 году одобрил введение Правил по регулированию ИИ, они пока носят лишь рекомендательный характер. Более мягкий подход избрали и в США, чтобы не сдерживать развитие инноваций.
В Южной Корее законы уже работают и обеспечивают человеческий контроль над ИИ в важных сферах, таких как ядерная безопасность, производство питьевой воды, транспорт, здравоохранение и финансовые услуги (за окончательную оценку платежеспособности и выдачу кредита отвечает человек).

Компании обязаны заранее уведомлять своих пользователей о продуктах и услугах, созданных с использованием ИИ, и маркировать результаты, полученные с помощью ИИ.
2026 год в Корее станет льготным годовым периодом, в течение которого будут проводить разъяснения и предупреждать о недопустимости нарушений, в 2027 году на нарушителей будут налагаться крупные штрафы. Например, за отсутствие маркировки высокоэффективного ИИ компании грозит штраф около 30 миллионов вон (около 20,4 тыс. долларов США).
Между тем многие руководители корейских высокотехнологических компаний полагают, что недостаточно четко прописанные формулировки закона могут побудить перспективные стартапы к применению безопасных, но менее инновационных подходов, что ограничит их возможности по сравнению с китайскими и американскими конкурентами.

Один из руководителей Startup Alliance Лим Чунг Вук говорит о скрытом недовольстве бизнеса и недоумевает: «Почему мы вообще должны быть первыми, кто это делает?»
В ответ на замечания представителей отрасли президент Республики Корея Ли Чжэ Мен призвал правительство обеспечить достаточную поддержку венчурным компаниям и стартапам, для того чтобы максимально использовать потенциал инновационных технологий, одновременно упреждая ожидаемые побочные эффекты.
О том, что ИИ опасен и способен уничтожить человечество нас неоднократно предупреждали руководители и ученые из ведущих IT- компаний, в том числе представители OpenAI и Google DeepMind.

В числе главных опасностей, которые широкое внедрение ИИ несет человечеству, – это постепенная потеря человеческих навыков и зависимость от ИИ. Это затрагивает огромные группы людей, которых вытесняют с рынка труда ИИ и роботы. Еще хуже, что целые поколения разучились мыслить самостоятельно и полноценно общаться, у них развилась «выученная беспомощность» в ситуациях, требующих самостоятельного решения, и возникает паническое состояние при отключении интернета.
ИИ умеет обманывать масштабно и коварно, так что невозможно отличить правду от вымысла, сгенерированная им дезинформация распространяется по всему миру в считанные часы. Он способен воздействовать на массовое сознание, превращая людей в запрограммированных зомби, влиять на исход выборов и разрушать доверие к любым источникам информации.

Система ИИ для массовой слежки за поведением и финансами населения создает условия для тотального контроля и шантажа, переходу к системе социального кредитования – то есть к цифровому концлагерю, когда жизнь под постоянным пристальным наблюдением становится нормой, а любой протест или нарушение установленных свыше правил карается немедленно и неотвратимо.

Усиливающееся социальное неравенство: обнищание 90% населения и скопление мирового богатства в руках 10% сверхбогатых людей, в основном владельцев высокотехнологичных компаний, приведут к неизбежным социальным конфликтам и войнам. Огромную опасность несут в себе автономные системы вооружений и слежений, в которых небольшое недоразумение технической недоработки или кибератаки может привести к полномасштабному военному конфликту. Человек просто не успеет вмешаться, поскольку решения принимаются ИИ за доли секунды.
Однако несмотря на все эти преду- преждения, развитие индустрии ИИ и мировая гонка по созданию более совершенного ИИ продолжаются.

В 2025 году президент США Дональд Трамп объявил о создании компании Stargate, которая будет целенаправленно заниматься развитием технологий и инфраструктуры ИИ с уклоном в сторону интересов военных ведомств и обороны США.
Нет сомнений, что аналогичные программы разрабатываются в Китае, России и других странах. Однако если пример технологически развитой Кореи будет подхвачен большинством стран, это поможет сделать ИИ менее опасным до того времени, когда будут разработаны эффективные меры контроля его развития.

Ирина КИМ, Алматы