Доклад ООН о регулировании искусственного интеллекта. На что он повлияет

В ООН предложили варианты регулирования искусственного интеллекта

Сюжет
Эксклюзивы РБК

Эксперты группы при ООН предложили свои рекомендации по регулированию искусственного интеллекта. РБК разбирался, какое влияние будет иметь документ

РоботAi-Da

Консультативный орган высокого уровня по искусственному интеллекту (КОИИ) ООН 19 сентября опубликовал доклад с рекомендациями по регулированию этой технологии (на английском и французском языках, русскоязычная версия ожидается). Отчет включает семь положений:

• создать независимую Международную научную группу по ИИ, которая объединит экспертов из разных стран и дисциплин и будет работать при поддержке учреждений ООН, например Международного союза электросвязи (ITU) и ЮНЕСКО. Такая группа может выпускать исследования и отчеты о возможностях ИИ и связанных с технологией проблемах. Авторы доклада отмечают, что ранее подобные группы были созданы по темам изменения климата и атомной радиации;
• начать в рамках ООН межправительственный диалог по вопросам управления ИИ: обмениваться опытом; способствовать внедрению в разных странах мер регулирования, которые будут совместимыми, а не противоречащими друг другу; делиться значительными инцидентами в области ИИ;
• организовать обмен стандартами в области ИИ с участием представителей национальных и международных организаций по разработке стандартов, технологических компаний, гражданского общества;
• создать сеть для развития потенциала в области ИИ. Среди прочего она должна предоставлять тренеров, вычислительные мощности и данные для обучения ИИ исследователям и предпринимателям, которые стремятся применять эту технологию в общественных интересах; запустить программу стипендий для перспективных специалистов;
• создать глобальный фонд для развития ИИ, который будет управляться независимой структурой. Он должен в том числе обеспечить предоставление вычислительных ресурсов для специалистов в странах, где их нет, и создание репозитория для ИИ-моделей и наборов данных, которые могут использоваться для целей устойчивого развития;
• создать глобальную структуру по управлению данными для ИИ по аналогии, например, со Всемирной организацией интеллектуальной собственности (WIPO, ведет базу патентов на изобретения, товарных знаков и т.п.);
• создать офис ИИ, который будет подчиняться генсекретарю ООН.

Как отмечается в докладе, ИИ может принести позитивные изменения в различных сферах, но без контроля возможности этой технологии могут не проявиться или будут распределены несправедливо. «Из-за увеличения цифрового разрыва преимущества ИИ могут быть доступны лишь небольшому числу стран, компаний и отдельных лиц»,— указано в документе. Кроме того, ИИ несет различные риски, в том числе для мира и безопасности, а также связанные с энергопотреблением поддерживающих ИИ систем во время климатического кризиса. Поэтому разработку, внедрение и использование такой технологии «нельзя оставить только на усмотрение рынка». Поскольку речь идет о трансграничной по структуре и применению технологии, это требует глобального подхода.

Как создавался документ

КОИИ был создан в октябре 2023 года по инициативе генсекретаря ООН Антониу Гутерриша. Он включает 39 экспертов из 33 стран. Доклад опубликован в преддверии Саммита будущего ООН, который пройдет 22–23 сентября в Нью-Йорке. Ожидается, что на саммите будет подписан Глобальный цифровой договор— документ «мягкого права», который, по замыслу Гутерриша, будет содержать базовые принципы развития цифровых технологий в мире. В драфте договора говорится в том числе о стремлении стран придерживаться этики при применении искусственного интеллекта. Но, как заявила «Коммерсанту» официальный представитель МИДа Мария Захарова, переговоры по Глобальному цифровому договору продвигаются непросто. «Западники пытаются застолбить за собой монополию в вопросах интернет-регулирования, поставить на одну доску государства и неправительственные структуры в принятии решений по международной технологической повестке. В противовес мы с единомышленниками подчеркиваем насущность конкретных мер по скорейшему преодолению «цифрового разрыва» для достижения «целей устойчивого развития». Только так у государств глобального Юга появится возможность создавать необходимые продукты и услуги, а не получать готовые решения от западных корпораций, известных применением хищнических практик»,— говорила Захарова.

Директор Центра ИИ МГИМО Анна Абрамова, которая входит в КОИИ и участвовала в подготовке доклада, в разговоре с РБК назвала его «очень значимым для последующих международных дискуссий». По ее словам, доклад— это взгляд экспертов на то, чем чревато бесконтрольное развитие ИИ и что может быть сделано на международном уровне, чтобы риски не воплотились в жизнь. «Ни для кого не секрет, что блага от внедрения передовых технологий, в том числе искусственного интеллекта, распределяются неравномерно как между странами, так и внутри них. Уже на новом технологическом витке усугубляется цифровое неравенство. Это ведет к тому, что сужаются возможности для стабильного гармоничного развития мировой экономики с равными возможностями для всех»,— говорит Абрамова.

Доклад не носит юридически обязывающего характера для стран— членов ООН, но, по словам Абрамовой, «содержит идеи, которые неизбежно в той или иной мере найдут отражение и в международных документах, и в национальном законодательстве». Она отмечает, что перед каждой страной сейчас стоит задача сформулировать национальные приоритеты и подходы к регулированию ИИ, и большинство стран, по мнению эксперта, «будут руководствоваться заложенными в документ принципами, так как они отвечают интересам их долгосрочного социально-экономического развития». «Страны заинтересованы в стабильном получении и трансфере новых технологий, что позволит на качественно новом уровне решать вопросы неравенства. В развитых странах должно сформироваться понимание, что без выравнивания уровней технологического и экономического развития глобальное гармоничное общество не построить»,— поделилась Абрамова.

Прислушаютсяли к рекомендациям

В начале июня Леопольд Ашенбреннер, бывший сотрудник OpenAI (создатель ChatGPT, на данный момент наиболее известной в мире языковой модели), спрогнозировал, что AGI (Artificial General Intelligence, общий искусственный интеллект, который, как ожидается, по своим интеллектуальным способностям будет соответствовать или в каких-то областях превосходить человеческий разум) может быть создан уже к 2027 году. Он также указал, что началась «гонка за ИИ». Речь шла как о гонке в развитии самой технологии («к концу десятилетия [машины] будут умнее нас с вами; у нас будет суперинтеллект в истинном смысле слова»), так и о возможной гонке в области ИИ между США и Китаем, которая в худшем случае может привести к полномасштабной войне.

Гендиректор MTS AI Андрей Калинин назвал рекомендации ООН адекватными с точки зрения упомянутых в самом докладе вызовов (цифровое неравенство, кардинальное изменение рынка труда из-за быстрого развития ИИ, отсутствие глобального регулирования), но сам по себе отчет, по его мнению, не подвигнет страны к конкретным действиям. Калинин отметил, что даже если ООН достигнет своей цели, то «это врядли окажет какое-либо влияние на стратегические планы крупных корпораций и правительств». Например, в отчете упоминаются семь межстрановых инициатив по управлению ИИ: во всех семи участвуют США, Великобритания, Германия, Франция, Италия, Канада и Япония, в то время как еще 118 стран не участвуют ни в одной из них. «Страны глобального Юга, которые вызывают беспокойство у ООН, по-прежнему останутся в стороне, поскольку им недостает влияния, финансовых ресурсов, инфраструктуры и экспертизы в сфере ИИ. Более того, маловероятно, что населению тойже Африки в данный момент действительно нужен искусственный интеллект, так как у них остаются нерешенными базовые проблемы»,— рассуждает Калинин.

Гендиректор AIRI, профессор Сколтеха Иван Оселедец отметил, что, принимая во внимание международные политические процессы, представленный документ носит скорее теоретический характер. Он сомневается, что предложенных в докладе единых стандартов для всего мира можно будет достичь «с учетом вариативности этапов развития ИИ в разных странах». «Это связано не только с такими аспектами, как расхождение на уровне внешней политики, экономический и технологический разрыв между разными странами, но и с различиями в законодательстве. Например, рассмотрим такой популярный и пугающий публику пример, как применение автоматизации в вопросах судебной практики: в США право прецедентное, и теоретически там возможно попробовать применить рекомендательную систему для принятия решений в судебных делах, в Россииже внедрение таких систем намного сложнее из-за иной правовой системы»,— пояснил Оселедец. Он считает более реалистичным вариантом создание глобального консультативного органа, который могбы давать рекомендации для конкретных предметных областей или определенных регионов.

Еще один собеседник РБК в компании, развивающей искусственный интеллект, назвал нереалистичным выполнение рекомендаций из доклада. «Рекомендации показывают, что ИИ сейчас одна из ключевых тем в повестке, поэтому ООН необходимо присмотреться к этой технологии, она должна развиваться с учетом рисков для безопасности и т.д., но особой экспертизы в технологиях у организации нет»,— рассуждает этот собеседник. Он указал, что сейчас конкуренция в ИИ идет между конкретными компаниями, а не странами, и не факт, что ООН будет иметь на них влияние. «Хотя инициатива ООН как будто про то, чтобы снизить влияние корпораций»,— оговорился источник.

Источник