OpenAI объявила о начале разработки новых способов определения контента, сделанного искусственным умом (ИИ). Посреди их — новый систематизатор изображений, который определяет, было ли изображение сгенерировано ИИ, и устойчивый к взлому водяной символ, способный маркировать аудиоконтент неприметными сигналами.
Новый систематизатор изображений способен с точностью до 98 % определять, было ли изображение сотворено ИИ-генератором изображений DALL-E 3. Компания утверждает, что их систематизатор работает, даже если изображение было обрезано, сжато либо была изменена его насыщенность. В то же время продуктивность этой разработки OpenAI в распознавании контента, сделанного другими ИИ-моделями, такими как Midjourney, сильно ниже — от 5 до 10 %.
Также OpenAI ввела водяные знаки для аудиоконтента, сделанного при помощи собственной платформы преобразования текста в речь Voice Engine, находящейся на стадии подготовительного тестирования. Эти водяные знаки содержат информацию о создателе и способах сотворения контента, что сильно упрощает процесс проверки их подлинности.
OpenAI деятельно участвует в работе Коалиции по происхождению и аутентичности контента (C2PA), в состав которой также входят такие компании, как Microsoft и Adobe. В этом месяце компания присоединилась к руководящему комитету C2PA, подчеркивая свою роль в разработке эталонов прозрачности и подлинности цифрового контента.
Для этих целей OpenAI интегрировала в метаданные изображений так именуемые учётные данные контента от C2PA. Эти учётные данные, де-факто являясь водяными знаками, включают информацию о обладателе изображения и методах его сотворения. OpenAI уже немало лет работает над обнаружением ИИ-контента, но в 2023 году компании пришлось остановить работу программки, определяющей текст, сгенерированный ИИ, из-за её низкой точности.
Разработка классификатора изображений и водяного знака для аудиоконтента длится. В OpenAI подчёркивают, что для оценки эффективности этих инструментов чрезвычайно значимо получить отзывы юзеров. Исследователи и представители некоммерческих журналистских организаций имеют возможность протестировать систематизатор изображений на платформе доступа к исследованиям OpenAI.
