«Крестный отец» нейросетей предупредил об угрозе истребления человечества. Джеффри Хинтон, британский и канадский ученый, лауреат Нобелевской премии по физике, заявил, что искусственный интеллект может привести планету к вымиранию. Об этом сообщает The Guardian.
Срок предполагаемой катастрофы — ближайшие 30 лет. Ее вероятность составляет 10-20%. «Нам никогда не приходилось иметь дело с чем-то более разумным, чем мы сами», — сказал Хинтон. По его словам, человеческое мышление в сравнении с машиной покажется младенческим. Ученый призвал к государственному регулированию искусственного интеллекта.
Это не первые предупреждения об опасности восстания машин в уходящем году. Папа Римский призвал развивать искусственный интеллект в соответствии с этическими нормами. Об этом Франциск говорил в обращении к участникам саммита G7 в июне 2024 года.
Насколько серьезна угроза нейросетей и как их регулируют в России и в мире, рассказал руководитель образовательной программы «Искусственный интеллект» НИЯУ МИФИ Роман Душкин.
Россиянам рассказали, как нейросеть может помочь в подготовке к Новому году
Роман Душкин главный архитектор систем искусственного интеллекта исследовательского центра ИИ по направлению «Транспорт и логистика» НИЯУ МИФИ:
«Под конец своей карьеры Джеффри Хинтон немножко стал говорить всякую ерунду. Джеффри Хинтон был одним из тех, кто стоял у истоков современного извода ИИ глубокого обучения. Конечно, не он не один, хотя он один получил Нобелевскую премию за это. Искусственному интеллекту как области исследований уже 70 лет, и соответственно с тех времен все это постепенно нарабатывалось, внедрялось. Все это есть вокруг нас. В Европе все зарегулировано настолько, что там исследования вообще практически прекращены, в США регуляция примерно такая: делайте, что хотите, главное, чтобы национальные интересы Америки распространялись на весь мир. Там есть какие-то нормативные акты, ответственность, подотчетность, прозрачность и прочие лозунги. У китайцев тоже есть какая-то регуляторная база, но там все направлено на интересы КПК и Китая как государства. У России есть стратегия развития ИИ до 2030 года, она уже выпущена — это базовый документ, касающийся ИИ. Есть много дополнительных нормативных актов, а также есть образец мягкого регулирования — это кодекс этики в области ИИ, который не этика ИИ, а этика разработчика ИИ. И все-таки это даже не этика, а просто какие-то добровольно принимаемые на себя правила при разработке таких систем. А если говорить про нормативно-техническое регулирование, то есть это стандартизация, сертификация, обеспечение единства измерения метрологии, здесь у нас есть технический комитет Росстандарта, который так и называется «Искусственный интеллект», и он выпускает ГОСТы, которые направлены на обеспечение доверия к результатам работы модели ИИ».
Случаи конфликта между человеком и нейросетью уже были в 2024 году. В ноябре Gemini, чат-бот Google, назвал американского школьника «обузой для общества» и пожелал ему смерти. Пользователь хотел решить задачку по математике.
