Китай, Россия и США пытаются согласовать ядерную программу в области ИИ
Об этом сообщили источники газеты South China Morning Post.
Протокол для переговоров между лидерами стран готовится для саммита АТЭС в Шэньчжэне на следующей неделе. Украина и денуклеаризация Корейского полуострова исчезли из списка возможных тем для обсуждения, и акцент сместился на области, по которым может быть достигнут консенсус, в частности, на роль ИИ в управлении и контроле ядерного оружия.
Тема управления ИИ в атомной отрасли периодически обсуждается экспертами. Например, один из «крёстных отцов» искусственного интеллекта, лауреат Нобелевской премии Джеффри Хинтон недавно выступил с тревожным прогнозом, что в ближайшие два-три года неконтролируемое развитие ИИ может привести к масштабным техногенным катастрофам. Прежде всего, они будут связаны с кибератаками. Хинтон подчеркнул неэффективность добровольного саморегулирования отрасли и предложил создать жёсткие международные механизмы контроля ― создание независимого регулятора, который будет проводить обязательную сертификацию моделей.
В июне этого года китайские учёные на Всемирной конференции по искусственному интеллекту (WAIC) в Шанхае представили дорожную карту, которая интегрирует ИИ со всем жизненным циклом передовых ядерных энергетических систем. Цель ― внедрение ИИ в практику с нулевой терпимостью к сбоям в системе безопасности. МАГАТЭ следит за ситуацией и выпускает рекомендации об использовании ИИ.
В октябре в рамках 70-й Генконференции МАГАТЭ состоялось обсуждение этой темы: как перейти от отдельных экспериментов с ИИ к системному применению в атомной отрасли с учетом специфики отраслевых требований к безопасности и надёжности.
Автор: Асмик Бакунц