Авторы исследования и публикация
Учёные из Массачусетского технологического института пришли к выводу, что повышение точности рекомендаций агентских систем искусственного интеллекта может со временем ослабить мотивацию людей к обучению и привести к сокращению общего объёма социально-накапливаемых знаний.
Авторы работы предлагают ограничивать степень точности таких рекомендаций, чтобы не допустить снижения вклада человеческого сообщества в формирование базы знаний.
Фокус исследования и концептуальные различия знаний
Авторами исследования являются Дарон Аджемоглу, Дингвен Конг и Асуман Оздаглар. Дарон Аджемоглу является лауреатом Нобелевской премии по экономике 2024 года.
Исследование опубликовано в серии рабочих документов Национального бюро экономических исследований (NBER).
Модель влияния ИИ на обучение и коллективное знание
В работе внимание сосредоточено на генеративном и особенно на агентском ИИ, который способен автономно принимать решения с учётом контекста.
Авторы выделяют два типа знаний: общие, формируемые коллективными усилиями и доступные широкой аудитории, и узконаправленные контекстные данные, специфичные для выполнения отдельных задач.
Для эффективного выполнения задач, по мнению исследователей, обычно требуется сочетание обоих типов знаний.
Ключевые выводы исследования
Исследователи построили динамическую модель, включающую два компонента знаний: общественный пул общей информации и контекстуальные, частные данные.
В модели учтено, что данные для обучения моделей ИИ формируются на основе человеческих исследований, экспериментов и открытий: без этого у ИИ не было бы достаточного объёма качественной информации для обобщения.
Рекомендации по управлению и регулированию
Основной результат показывает различие между статическим и динамическим эффектом агентского ИИ: в краткосрочной перспективе такие системы повышают качество принимаемых людьми решений, но в динамике могут подрывать накопление коллективных знаний.
Если рекомендации ИИ достигают определённого уровня точности, люди могут снизить усилия по самостоятельному изучению и генерации новой информации, что ведёт к уменьшению общего информационного пула.
Авторы отмечают, что активное совместное накопление знаний повышает благосостояние и устойчивость сообщества к возможному упадку базы знаний.