За последние деньки в социальных сетях появилось огромное кол-во примеров того, как заброшенный не так давно ИИ-поисковик Гугл даёт странноватые ответы на пользовательские запросы: от советы добавить клей в пиццу до предложения съесть камешки. На этом фоне Гугл вручную отключает функцию обзоров при помощи ИИ для определённых запросов, потому многие странноватые ответы поисковика исчезают в скором времени.
Эта положение, обстановка смотрится непонятно, так как Гугл уже год тестирует генерируемые ИИ обзоры. Бета-версия функции Search Generative Experience была запущена в мае прошедшего года и главный директор Гугл Сундар Пичаи (Sundar Pichai) гласил, что за этот период времени она обработало больше млрд запросов. Вкупе с этим Пичаи проговорил, что за период тестирования удалось на 80 % уменьшить цена предоставления ответов при помощи ИИ благодаря «аппаратным, инженерным и техническим прорывам». Похоже, что эта усовершенствование была проведена через чур рано, ещё до того, как разработка была готова к коммерческому использованию.
Гугл продолжает настаивать на том, что ИИ-поисковик компании почти всегда предоставляет юзерам «высококачественную информацию». «Многие из примеров, которые мы лицезрели, связаны с необычными запросами, и мы также лицезрели примеры, которые были сфальсифицированы либо которые нам не удалось воспроизвести», — рассказал агент Гугл. Он также подтвердил, что компания решает меры по удалению сгенерированных ИИ обзоров по определённым запросам, «где это нужно в согласовании с нашей политикой в отношении контента». Примеры неудачных ответов ИИ становятся основой для разработки улучшений для поисковика, некие из которых «уже начали проникать».
Специалист по искусственному уму и доктор наук Нью-Йоркского универа Гэри Маркус (Gary Markus) считает, что многие ИИ-компании «продают мечты» о том, что точность сделанных ими алгоритмов возрастет с 80 % до 100 %. Из слов Маркуса, добиться точности в 80 % относительно легко, так как для этого нужно научить метод на большенном объёме уже имеющихся данных. Но сделать метод ещё поточнее на 20 % является исключительно трудной задачей. Профессионал отметил, что метод должен «рассуждать», как правдоподобна та либо другая инфа и источники, т.е. новости себя подобно тому, как это делал бы человек, проверяющий факты.