Новый экспериментальный инструмент на базе искусственного интеллекта позволяет пользователям глубже понять происхождение и окружение изображений, с которыми они сталкиваются в сети.
Способы взаимодействия людей с визуальным контентом в интернете не перестают меняться. В прошлом году компания опубликовала исследование, посвящённое оценке надёжности через анализ окружения и источника происхождения, где подчёркивалось, как улучшенные методы проверки помогают людям принимать осознанные решения относительно увиденного в сети.
В рамках инициатив по содействию осознанному выбору, разрабатываются удобные инструменты для проверки источника и встроенные функции контекстного анализа, а также вкладываются ресурсы в повышение информационной грамотности.
Сейчас представлен Backstory — пробный инструмент на основе ИИ, который раскрывает данные и способствует изучению окружения изображений из интернета.
При загрузке изображения и вводе текстового запроса Backstory определяет, создано ли оно с помощью ИИ, где и когда ранее появлялось в сети, а также подвергалось ли цифровой обработке. Он оперативно предоставляет полезные сведения, реагирует на дополнительные запросы, объясняет применение изображения и эволюцию его истории. Кроме того, инструмент формирует понятные отчёты о результатах анализа.
Оценка надёжности на основе окружения и источника
Разработанный с использованием модели Gemini, Backstory применяет ряд технологий обнаружения для определения аутентичности изображения или его генерации ИИ. Затем он проводит комплексную оценку контекста, выявляя использование изображения в интернете и дополнительные данные, такие как метаданные, чтобы ответить на запрос пользователя.
В большинстве ситуаций распознавание ИИ-генерации не эквивалентно проверке на надёжность. К примеру, изображение может быть не сгенерировано ИИ, но подвергнуто редактированию или использовано вне исходного контекста, что приводит к искажённой или обманчивой интерпретации.
С другой стороны, ИИ-сгенерированное изображение способно иллюстрировать подлинную, творческую или фактическую историю. Для точной оценки надёжности требуется детальное понимание процесса создания и полного контекста изображения.
Комплексный подход к решению
Крайне важно, чтобы представители индустрии, гражданского общества, власти, учёные и пользователи совместно совершенствовали инструменты и программы для сохранения целостности информационной среды.
В процессе исследований и доработки Backstory ведётся тесное сотрудничество с проверенными тестеры, включая создателей контента и специалистов по информации, которые занимаются сбором, структурированием и распространением качественных материалов.
В течение года будет собираться обратная связь по примерам использования, впечатлениям пользователей и другим аспектам, чтобы усовершенствовать технологию и повысить её полезность.