Стартап RagaAI успешно привлек $4,7 млн финансирования для разработки программного инструмента, упрощающего обнаружение дефектов в нейронных сетях, пишет Bloomberg. Речь идет о проблемах современных систем искусственного интеллекта, таких как так называемые «галлюцинации» и неспособность предоставить важную информацию в данный момент времени.
Источники говорят, что такие решения повысят надежность и безопасность систем искусственного интеллекта. Детищем стартапа является Гаурав Агарвал, 44-летний сотрудник NVIDIA и Texas Instruments. О необходимости создания такого инструмента он задумался после неприятного инцидента с тестированием системы беспилотного вождения на дорогах Калифорнии. Агарвал был вынужден применить экстренное торможение, чтобы избежать столкновения, поскольку автоматизированное оборудование не смогло своевременно распознать препятствие на маршруте.
Как признался в интервью Bloomberg основатель RagaAI, с проблемами в работе с нейронными сетями он столкнулся во время работы в NVIDIA и Ola. По его словам, устранение ошибок в работе систем искусственного интеллекта важно во многих сценариях, предполагающих высокую степень ответственности. Примеры включают использование искусственного интеллекта для диагностики рака, обслуживания самолетов и подбора персонала.
Стартап RagaAI был основан в Калифорнии до того, как на рынок вышел популярный чат-бот OpenAI ChatGPT. Разработанная им платформа позволяет корпоративным заказчикам проводить более 300 тестов, выявляющих узкие места в работе систем искусственного интеллекта. Это позволяет выявлять проблемы с распознаванием объектов, появление «мусора» и ложных данных, выдаваемых за истину. Более того, разработка RagaAI позволяет блокировать атаки на языковые модели, которые созданы для работы даже в случае ошибок. Ключевой профессиональный персонал стартапа будет находиться в Бангалоре, Индия, а средства, собранные в ходе недавнего раунда финансирования, будут использованы для расширения бизнеса.
По словам руководителя компании, компания уже работает с несколькими крупными заказчиками в сферах электронной коммерции, авиации и медицинской визуализации. С платформой RagaAI нам уже удалось снизить количество ошибок в работе систем искусственного интеллекта на 90 %.
