CEO Anthropic Дарио Амодеи призвал другие ИИ-компании проводить обязательное тестирование безопасности нейросетей перед их публичным выпуском. Об этом пишет Bloomberg.

«Я думаю, что мы должны сделать тестирование обязательным, но также важно быть очень осторожными в том, как это делать», — сказал он. 

По словам главы ИИ-стартапа, существует ряд добровольно принятых правил безопасности, с которыми согласились крупные фирмы. Однако необходимы более четкие стандарты. 

«Нет ничего, что позволило бы проверить или убедиться следованию правилам со стороны компании. Они просто сказали, что будут это делать», — подчеркнул он.

Амодеи добавил, что стартапы пошли на соблюдение ряда стандартов под влиянием общественности и работников, но в конечном итоге этого окажется недостаточно. В то же время требования к тестированиям должны оставаться «гибкими», чтобы учитывать темпы изменения технологий.

В ноябре Anthropic открыла свои ИИ-продукты разведывательным и оборонным агентствам США. Ранее Meta пошла на аналогичный шаг.

Напомним, в том же месяце Амодеи заявил, что искусственный интеллект достигнет человеческого уровня в 2026 году.