arXiv: ИИ приносит научные и культурные достижения, создает новые угрозы
AI Impacts опросила около 3000 экспертов по машинному обучению о вероятном будущем человечества с появлением искусственного интеллекта (ИИ). Результаты представлены в статье, опубликованной на сервере препринтов arXiv.
Большинство респондентов полагают, что ИИ вызовет волну прорывов в науке, литературе, математике, музыке и архитектуре, которая превысит прогнозы, сделанные в аналогичном опросе два года назад и сделанном в начале года. Однако от 38% до 51% экспертов считают, что ИИ может представлять реальную угрозу, при этом вероятность сценария вымирания человечества составляет как минимум 10.
Эксперты предполагают, что к 2047 году существует 50%-ная вероятность того, что машины будут способны самостоятельно выполнять все мыслимые задачи человека, причем делать это более эффективно и с меньшими затратами. В целом 70% экспертов говорят, что по мере того, как ИИ становится умнее и мощнее, мы с большей вероятностью увидим хорошие результаты, чем плохие.
Более половины респондентов выразили обеспокоенность тем, что ИИ используется для распространения ложной и вводящей в заблуждение информации. Способность эффективно создавать дезинформацию может повлиять на внутриполитическую обстановку и международные отношения. Существуют также такие риски, как распространение дипфейков, возможность использования ИИ для манипулирования общественным мнением и контроля над населением.
Три четверти респондентов заявили, что необходимы дополнительные исследования в области безопасности, чтобы найти решения потенциального злоупотребления ИИ.
