Разработчиков "Сбера" вызвали в прокуратуру — виной всему стал искусственный интеллект
Сотрудников Сбербанка вызывали в прокуратуру по причине неточного изображения российского флага, созданного нейросетью, рассказал глава «Сбера» Герман Греф в ходе форума «Финополис», организованного ЦБ. Сотрудников Сбербанка вызывали в прокуратуру из-за того, что депутаты были недовольны изображениями от нейросети Kandinsky, рассказал Герман Греф. Алгоритм пришлось редактировать, и модель потеряла в креативности и точности.
«Опыт показал, что мы только опубликовали модели — и нас, и “Яндекс” тут же привели в прокуратуру. У нас модель при генерации российского флага — ну она же генеративная, она пытается его улучшить — она на флаге нарисовала еще купола от Собора Василия Блаженного. Депутаты посчитали, что это издевательство над нашим национальным флагом. Мы тут же остановили определенные вещи — символы государственные она не генерит уже, она генерит картинку, заранее заданную», — цитирует РБК слова г-на Грефа.
При этом теперь модель теряет в креативности генерации, признал Греф: «Мы последние полгода модель не могли выставить, потому что мы закручивали настройки безопасности. При этом модель в общем доступе потеряла 12% в креативности и точности. Нам придется пройти через этот период. Нужна помощь государства в снисхождении и понимании, что мы как дети пока здесь, — нас сильно не судить. Потому что когда разработчиков и нас пригласили в прокуратуру… Хорошо, что прокурор такой современный попался, с чувством юмора, — он все изучил, и, слава богу, нас никуда не привлекли. Он сказал: ребята, давайте идите работайте, но будьте поаккуратнее. Могло бы быть иначе». Разработчикам подобных моделей придется наступить на «все грабли», однако в России в целом «правильная атмосфера для этого», — добавил Греф.
Ситуация, о которой сказал Греф, произошла в апреле 2023 года.
Тогда лидер фракции «Справедливая Россия — За правду» в Госдуме Сергей Миронов попросил генпрокурора Игоря Краснова дать оценку изображениям, сгенерированным нейросетью Kandinsky 2.1, созданной «Сбером». Как писал ТАСС со ссылкой на копию письма Миронова, при тестировании системы нейросеть, по мнению депутата, генерировала ответы на запросы о России, которые способствуют «формированию ее негативного образа и положительного образа недружественных стран».