Казахстан готовит закон об ИИ: маркировка контента и защита данных

Баланс между технологиями и правами граждан призван найти закон об искусственном интеллекте. Одним из ключевых инструментов станет обязательная маркировка контента, созданного с помощью ИИ: будь то видео, изображение или аудио. Такая маркировка прежде всего необходима для обеспечения прозрачности и повышения информированности пользователей.

СЕРИК БИМЕНДЕЕВ, главный эксперт управления государственной политики Комитета искусственного интеллекта и развития инноваций МЦРИАП РК:

- Это требование распространяется на все типы ИИ контента и так называемые синтетические медиа, например дипфейки, как сейчас их называю. В таких случаях, кроме текстового предупреждения должна быть визуальная или звуковая маркировка.

Закон позволить выстроить чёткие рамки использования технологий, обеспечить прозрачность, понятность и доверие граждан, а также обозначить ответственность всех участников цифрового пространства.

Как отмечают эксперты, в других странах уже давно действуют аналогичные законы и Казахстан может применить лучшие международные практики. Главное - соблюдение правовых и этических норм, а также внимание к вопросам кибербезопасности и защиты персональных данных.

ЕВГЕНИЙ ПИТОЛИН, упр. директор DATASTAR, сопредседатель Комитета по информационной безопасности Альянса QAZTECH:

- Вопросы предвзятости и вопросы потенциальных ошибок, принципы принятия тех или иных решений, вещи которые нужно прописывать в любой информационной системе люди должны знать с чем они сталкиваются и кто несет ответственность, чего можно ожидать, где границы работы с искусственным интеллектом. 

Искусственный интеллект, при неправильном применении, может нести серьёзные риски: от распространения дезинформации до нарушений прав человека. Особенно опасны дипфейки, которые способны ввести общество в заблуждение.

ЕВГЕНИЙ ЯВОРСКИЙ, адвокат:

- Использование даже лица нашего президента, когда он рекламировал какие то акции, такого не должно быть. Люди верят, верят каким-то известным людям, наказание должно быть соразмерно тому, какой ущерб несут. Например если бабушка продала свою квартиру под таким действием, много людей которые не разбираются в таких технологиях.

Новый закон также призван бороться с мошенниками. Так, при оформлении абонентского номера будет использоваться биометрия. Появится понятие несанкционированного трафика. Операторы связи будут обязаны иметь внутренние антифрод-системы и блокировать его. Также планируется ограничить ввоз и регистрацию SIM-боксов, которые активно используют мошенники.

Источник: Информбюро 31