Google відкрив усім детектор ШІ-контенту: як він працює

Google відкрив для широкого загалу новий сервіс для перевірки медіаконтенту, створеного за допомогою штучного інтелекту. Інструмент дає змогу проаналізувати зображення, відео або аудіозапис і з’ясувати, чи містить файл спеціальний цифровий водяний знак SynthID. Технологія розроблена Google для маркування матеріалів, які генерують або редагують фірмові моделі компанії.

Раніше доступ до перевірки SynthID мали переважно окремі фахівці та тестові користувачі. Тепер сервіс став доступним усім охочим. Це має спростити перевірку сумнівних публікацій, рекламних матеріалів, відеороликів, музики та зображень, які поширюються в інтернеті.

Що вміє детектор ШІ-контенту Google

Новий сервіс працює за принципом аналізу цифрового водяного знака. На відміну від видимого напису або логотипа, SynthID не обов’язково можна помітити під час перегляду файлу. Позначка вбудовується у структуру контенту таким чином, щоб не змінювати його зовнішній вигляд, звучання чи якість. Під час перевірки система шукає відповідні ознаки та визначає, наскільки ймовірно, що матеріал був створений інструментами Google.

Детектор підтримує велику кількість поширених форматів. Для зображень доступні JPG, JPEG, PNG, BMP, WEBP, AVIF, HEIC, HEIF, TIFF, TIF і GIF. Відеофайли можна завантажувати у форматах MP4, MOV та WEBM. Для аудіо передбачена підтримка WAV, MP3, OGG, FLAC, AAC і M4A.

Користувачеві достатньо обрати файл і завантажити його на сторінку сервісу. Після цього система порівнює вміст із характеристиками, пов’язаними з водяним знаком SynthID. Результат перевірки допомагає зрозуміти, чи може матеріал походити від генеративних моделей Google. Водночас відповідь детектора не варто сприймати як абсолютний доказ походження файлу.

Важливо: SynthID не є універсальним детектором будь-якого ШІ-контенту. Якщо матеріал створила модель іншої компанії, яка не використовує цей стандарт, сервіс може не виявити ознак штучної генерації. Також результат може бути менш точним після значного редагування, перекодування, обрізання, стискання або зміни гучності файлу.

Як працює SynthID і які компанії його підтримують

Технологію SynthID Google представила у 2023 році. Її головна мета полягає в тому, щоб маркувати контент ще на етапі генерації. Водяний знак може додаватися до зображень, відео та аудіо, створених відповідними моделями. Він залишається непомітним для більшості людей, але може бути знайдений спеціальним алгоритмом.

Такий підхід відрізняється від традиційних способів позначення матеріалів. Наприклад, звичайний напис «створено ШІ» легко видалити за допомогою редактора. Невидимий цифровий сигнал складніше помітити та змінити навмисно. Однак повністю невразливих технологій не існує: перетворення формату, багаторазове збереження або глибоке редагування можуть ускладнити ідентифікацію.

SynthID використовують моделі Google, зокрема Nano Banana, Veo та Lyria. Підтримка маркування також реалізована в інструментах із генеративними функціями, серед яких Gemini, Flow, ProducerAI та Vids. Завдяки цьому водяний знак може з’являтися не лише у файлах, створених безпосередньо окремою моделлю, а й у матеріалах, підготовлених у комплексних сервісах.

До розвитку цього підходу долучаються й інші технологічні компанії. SynthID підтримують OpenAI, Nvidia та Kakao, а в майбутньому сумісність із технологією може розширитися. Водночас Microsoft і Meta розвивають власні стандарти маркування та перевірки цифрового контенту. Через відмінності між системами один детектор не здатен однаково добре розпізнавати матеріали, створені всіма генеративними платформами.

Google також інтегрувала перевірку через SynthID у застосунок Gemini та браузер Chrome. Це означає, що користувачі можуть отримувати інформацію про походження контенту без переходу до окремої вебсторінки. За даними компанії, інтерес до таких функцій швидко зростає: щодня користувачі надсилають близько мільйона запитів на перевірку медіафайлів.

Для чого потрібна перевірка ШІ-контенту

Поширення генеративного штучного інтелекту зробило створення реалістичних фото, відео та музики доступним практично кожному. Одночасно зросла кількість підробок, маніпуляцій і матеріалів, які видають за справжні. Фальшиві зображення можуть використовуватися для обману в соціальних мережах, згенеровані голоси — для телефонного шахрайства, а синтетичні відео — для дискредитації людей або поширення неправдивих заяв.

Окремою проблемою стала музика, створена за допомогою ШІ. Зловмисники можуть генерувати сотні тисяч треків і застосовувати ботів для штучного збільшення кількості прослуховувань. У результаті вони отримують незаконний прибуток, спотворюють рейтинги та витісняють справжніх виконавців із рекомендаційних систем.

Генеративні інструменти також можуть застосовуватися для створення небезпечних або незаконних матеріалів. Правоохоронці в різних країнах уже фіксують випадки використання ШІ для виготовлення забороненого контенту, підробки доказів і маскування злочинної діяльності. Окремий ризик становлять синтетичні матеріали, створені для політичної пропаганди. Згенеровані пісні, відео та голосові повідомлення можуть швидко поширювати потрібні наративи через популярні цифрові платформи.

Детектор Google може стати корисним для журналістів, модераторів, адміністраторів платформ, викладачів і звичайних користувачів. Перед публікацією резонансного зображення або відео можна додатково перевірити його походження. Це не замінює фактчекінг, аналіз метаданих та оцінку джерела, але допомагає отримати ще один сигнал для ухвалення рішення.

Водночас користувачам варто враховувати обмеження SynthID. Відсутність водяного знака не означає, що файл гарантовано створила людина. Він міг бути згенерований іншою моделлю, яка не підтримує SynthID, або зазнати змін, через які маркування стало складніше виявити. І навпаки, позитивний результат свідчить насамперед про зв’язок із підтримуваними інструментами, але не пояснює, хто саме створив файл, коли це сталося і з якою метою.

Найнадійніший підхід — поєднувати автоматичну перевірку з критичним аналізом. Потрібно оцінювати контекст публікації, дату появи матеріалу, поведінку об’єктів у кадрі, якість звуку, характерні помилки генеративних моделей і достовірність автора. Google відкрила детектор ШІ-контенту, але остаточне рішення про правдивість інформації все одно залишається за людиною.