Раньше в этом месяце компания Figma была обязана остановить работу собственного ИИ-помощника для дизайнеров Создать Designs. Это произошло после того, как помощник начал создавать для юзеров проекты, не слабо похожие на приложения Apple для платформы iOS. в данный момент же спецы компании исследовали этот вопрос и поведали, почему нейросеть создавала такие проекты.
Применение дизайна приложений, схожих на продукты Apple, могло привести к юридическим неприятностям, потому юзеры платформы Figma выразили недовольство работой программного решения. Также, инцидент наводит на идея, что нейросеть Figma могла учиться на дизайнах Apple и других компаний. Оказалось, что беда появилась из-за того, что инженеры Figma не проверили подабающим образом составляющие, добавляемые в генеративную нейросеть.
В сообщении Figma указывается, что компания «вдумчиво исследовала» базисные системы Создать Designs в процессе разработки метода и во время бета-тестирования. Но за неделю до пуска нейросети в всеобщий доступ в конфигурацию были добавлены новые составляющие и примеры макетов, которые не были испытаны подабающим образом. Компания признаёт, что некие из этих компонент были похожи на действительно имеющиеся приложения, а появились они в итоге обработки ИИ-алгоритмом определённых запросов юзеров.
Как Figma выяснила о дилемме с методами проектирования, составляющие, ставшие источником возникновения сходства генерируемого контента с действительно существующими приложениями, были удалены. В текущее время компания продолжает работу по улучшению контроля свойства, по окончанию которой Создать Designs опять станет общедоступным. Определенные сроки, когда ИИ-помощник опять появится в открытом доступе, озвучены не были.
