Компанія OpenAI розробляє систему для визначення фальшивих знімків, створених за допомогою ШІ. Це допоможе боротися з дезінформацією і розпізнавати обман загалом.
OpenAI випустить сервіс для розпізнавання фальшивих фото та аудіо
Поки що зараз зможе працювати зі знімками, які були створені за допомогою генератора зображень DALL-E AI. На додачу до перевірки, при створенні фото буде додано водяний знак, який буде важко прибрати при спробі видати фальш за правду.
Що стосується водяного знака, то це може бути навіть невидимий аудіосигнал, якщо ШІ копіює голос відомої особистості. Інструмент одразу ж виявить джерело файлу.
Із зображеннями система працює ще краще – в OpenAI заявили, що сервіс виявить підробку навіть в обрізаному або стислому зображенні. Точність визначення становить 98%.
Поки що класифікатор зображень і аудіосигналів для водяних знаків ще на стадії розробки, і для запуску потрібні відгуки від користувачів про роботу.
Можливості штучного інтелекту вже викликають побоювання не тільки в експертів у цій галузі, а й у зірок. У квітні понад 200 артистів виступили проти ШІ в музиці. У відкритому листі закликають не розробників цих передових технологій припинити використання ШІ для утиску і знецінення прав артистів. Багато хто побоюється, що їхні таланти зможуть підробити, залишивши художників і музикантів без роботи.
