В минувшие выходные 22 правоохранительных и разведывательных агентства из 18 стран, в том числе США, Великобритания, Япония и другие крупные державы, подписали новое соглашение о безопасности искусственного интеллекта. Это соглашение призвано сделать будущие системы ИИ "безопасными по замыслу" путем включения соображений безопасности на всех этапах их разработки и развертывания.
Основные моменты соглашения включают рекомендации по мониторингу систем ИИ на предмет злоупотреблений, защите данных, используемых для обучения, и тщательной проверке поставщиков программного обеспечения ИИ. Соглашение также признает уникальные уязвимости, присущие технологиям ИИ, такие как возможность манипулирования алгоритмами машинного обучения злоумышленниками.
В соглашении отсутствует Китай, вторая по величине экономика мира и крупный центр разработки ИИ. Это может замедлить глобальные инновации в области ИИ и еще больше разделить технологические экосистемы разных стран. Тем не менее, большинство западных держав сочли необходимым подписать это соглашение, чтобы обеспечить более ответственное и этичное развитие будущих систем ИИ.
В целом это международное соглашение является позитивным шагом для повышения осведомленности о потенциальных проблемах безопасности ИИ и поощрения "разработки соображений безопасности" на раннем этапе проектирования. Однако юридические и технологические проблемы, связанные с использованием данных для обучения систем ИИ и их потенциальными нарушениями авторских прав, по-прежнему остаются нерешенными.
