Компания OpenAI разрабатывает систему для определения фальшивых снимков, созданных с помощью ИИ. Это поможет бороться с дезинформацией и распознать обман в целом.
OpenAI выпустит сервис для распознания фальшивых фото и аудио
Пока что сейчас сможет работать со снимками, которые были созданы с помощью генератора изображений DALL-E AI. В добавок к проверке, при создании фото будет добавлен водяной знак, который буде трудно убрать при попытке выдать фальш за правду.
Что касается водяного знака, то это может быть даже невидимый аудиосигнал, если ИИ копирует голос известной личности. Инструмент сразу же обнаружит источник файла.
С изображениями система работает еще лучше — в OpenAI заявили, что сервис обнаружит подделку даже в обрезанном или сжатом изображении. Точность определения составляет 98%.
Пока что классификатор изображений и аудиосигналов для водяных знаков еще на стадии разработки, и для запуска нужны отзывы от пользователей о работе.
Возможности искусственного интеллекта уже вызывают опасения не только у экспертов в этой области, но и у звезд. В апреле более 200 артистов выступили против ИИ в музыке. В открытом письме призывается не разработчиков этих передовых технологий прекратить использование ИИ для ущемления и обесценивания прав артистов. Многие опасаются, что их таланты смогут подделать, оставив художников и музыкантов без работы.
