Оскільки штучний інтелект продовжує розвиватися безпрецедентними темпами, його вплив на різні аспекти нашого життя стає все більш очевидним. Однією зі сфер, де вплив штучного інтелекту особливо помітний, є створення зображень. Здатність створювати реалістичні, згенеровані комп’ютером різноманітні візуальні ефекти відкрила цілий світ можливостей, але це також викликало занепокоєння щодо поширення дезінформації.
У цьому контексті компанія Optic розробила потужний інструмент під назвою AI or Not, спрямований на боротьбу з розповсюдженням неправдивої інформації, що поширюється через зображення, згенеровані ШІ.
У березні 2023 року, Designboom повідомив про серію вірусних штучних зображень, які поширювали в соціальних мережах, серед яких Папа Римський у пуховій куртці та заарештований Дональд Трамп. Хоча реальність зображень спростовано, деякі користувачі соціальних мереж все ще можуть бути ошуканими та впевненими в їх реалістичності. Наприклад, модель і телеведуча Кріссі Тейген поділилася тим самим зображенням у Twitter, перш ніж видалила його, усвідомивши оману.
Про AI or No
AI or Not оснащено вдосконаленою системою, яка швидко сканує зображення та визначає, ким створене імпортоване зображення. Додаток ідентифікує зображення, згенеровані у програмах Stable Diffusion, Midjourney, Dall-E або GAN, — потрібно лише завантажити картинку або ввести URL-адресу з нею. Через кілька секунд застосунок видає повідомлення про те, як саме було створене зображення — людиною чи штучним інтелектом.
https://www.aiornot.com
Використовуючи свої власні найсучасніші алгоритми, Optic стверджує, що інструмент досягає разючого показника точності 95% у точному визначенні джерела зображення. Ця точність має вирішальне значення в боротьбі з оманливим контентом, який можна створити за допомогою генераторів зображень AI, таких як Midjourney, Stable Diffusion, DALL-E та GAN.
Вебінструмент AI або Not допоможе уникнути поширення дезінформації про зображення. Завдяки точному визначенню походження вмісту інструмент дає користувачам змогу приймати обґрунтовані рішення щодо вірогідності зображень, які вони зустрічають в Інтернеті. Крім того, користувачі можуть зробити свій внесок у вдосконалення системи, повідомляючи про помилки технології, тим самим підвищуючи його ефективність у виявленні зображень, створених ШІ.
Однією з потенційних проблем, пов’язаних з "AI or Not", є питання конфіденційності. Користувачі можуть вагатися завантажувати свої зображення для аналізу, побоюючись, що їхні особисті дані можуть бути скомпрометовані. Optic розв'язує цю проблему, запевняючи користувачів, що всі завантажені зображення та введені URL-адреси не зберігаються на їхніх серверах довше, ніж це необхідно для аналізу. Компанія також підкреслює свою відданість дотриманню найкращих галузевих практик і відповідних норм захисту даних. Хоча деяка інформація може тимчасово зберігатися для цілей аналізу, Optic прагне надати пріоритет конфіденційності користувачів і безпеці даних.
Наразі "AI or Not" зосереджується виключно на виявленні фейкових зображень, створених штучним інтелектом. Однак, залишається питання щодо того, чи розширить Optic свої можливості, щоб включити виявлення зображень, створені людьми, але мають естетику подібну до візуальних зображень, створених ШІ. Поки що Optic не надав конкретних деталей щодо своїх планів у цьому відношенні.
Висновки
Отже, в епоху цифрового контенту, створеного штучним інтелектом, боротьба з дезінформацією на основі зображень є постійною проблемою. У розв’язанні якої вебінструмент AI or Not робить значний крок вперед. Використовуючи передові алгоритми та методи машинного навчання, інструмент допомагає ідентифікувати зображення, створені ШІ, допомагаючи запобігти поширенню неправдивої інформації. Оскільки Optic продовжує вдосконалювати та розширювати свої можливості, програма має потенціал стати неоціненним союзником у боротьбі з дезінформацією в цифровому ландшафті.
💬 Дизайн-чат
