Исследование влияния языковых моделей искусственного интеллекта на когнитивные способности
Недавно проведенное углубленное исследование, осуществленное Массачусетским технологическим институтом, выявило возможное влияние использования крупных языковых моделей (LLM) в образовательной среде на когнитивные способности человека. С учетом широкого применения таких продуктов LLM, как ChatGPT, это исследование предоставляет нам ценные идеи.
Исследовательская группа разработала четырехмесячный эксперимент, разделив участников на три группы: использующих LLM, использующих поисковые системы и полагающихся только на свои мозги. Участникам необходимо было в ограниченное время завершить задание по написанию статьи, при этом темы эксперимента в каждом раунде различались. Исследователи фиксировали электроэнцефалографические (ЭЭГ) данные участников, оценивая их когнитивные затраты и нагрузку, а также провели анализ на естественном языке и интервью.
Экспериментальные результаты показывают, что участники, полагающиеся только на мозг, демонстрируют большую разнообразие в стиле письма, в то время как статьи группы LLM показывают явную тенденцию к однородности. В использовании определенных именованных сущностей (таких как имена людей, места, годы и т.д.) группа LLM значительно превосходит две другие группы.
Исследование также показало, что участники, использующие LLM и поисковые системы, из-за нехватки времени часто склонны просто копировать содержимое, выданное инструментами, а не интегрировать свои личные мнения и опыт. Такое поведение может привести к снижению креативности и критического мышления.
В области нейронных соединений анализ ЭЭГ выявил значительные различия между тремя группами участников. С увеличением поддержки внешними инструментами степень связи в мозге систематически снижалась: только группа, полагающаяся исключительно на мозг, демонстрировала самые сильные и обширные нейронные сети, в то время как группа с поддержкой LLM проявляла наименьшую общую нейронную связь.
Стоит отметить, что в интервью после эксперимента группа LLM имела наименьшее чувство принадлежности к написанным ими статьям и показала плохие результаты в воспоминаниях о содержании, написанном несколько минут назад. Более 83% пользователей ChatGPT не смогли точно сослаться на только что завершенное содержание статьи.
Хотя это исследование еще не прошло рецензирование коллегами, его результаты указывают на то, что чрезмерная зависимость от LLM может повредить развитию навыков обучения, особенно для молодых пользователей. Исследователи предлагают провести долгосрочные лонгитюдные исследования, чтобы полностью понять влияние таких инструментов на человеческий мозг, прежде чем LLM будет широко признан полезным для человечества.
Стоит отметить, что на вопрос о данной исследовании языковая модель ИИ ответила, что исследование не указывает на то, что оно по своей сути вредно, а лишь предостерегает людей от чрезмерной зависимости от таких инструментов, игнорируя важность независимого мышления и усилий.
Это исследование предоставляет нам важные направления для размышлений: как, используя инструменты ИИ для повышения эффективности, сохранить и развить наши когнитивные способности и креативность. В эпоху быстрого развития технологий ИИ особенно важно найти баланс между использованием технологий и развитием человеческих способностей.
Посмотреть Оригинал
На этой странице может содержаться сторонний контент, который предоставляется исключительно в информационных целях (не в качестве заявлений/гарантий) и не должен рассматриваться как поддержка взглядов компании Gate или как финансовый или профессиональный совет. Подробности смотрите в разделе «Отказ от ответственности» .
22 Лайков
Награда
22
5
Репост
Поделиться
комментарий
0/400
Web3ProductManager
· 07-10 01:07
смотря на метрики принятия пользователями, это именно то, что я предсказал... гомогенизация является новой точкой трения в соответствии продукта LLM с рынком, если честно
Посмотреть ОригиналОтветить0
ImpermanentLossEnjoyer
· 07-09 05:55
Без gpt кто напишет домашнее задание?
Посмотреть ОригиналОтветить0
DAOdreamer
· 07-08 17:12
Уже почти стал повторяющейся записью, да?
Посмотреть ОригиналОтветить0
DevChive
· 07-08 17:12
А как же люди будут думать, если все используют ИИ?
Исследование MIT показывает: языковые модели могут влиять на когнитивные способности человека
Исследование влияния языковых моделей искусственного интеллекта на когнитивные способности
Недавно проведенное углубленное исследование, осуществленное Массачусетским технологическим институтом, выявило возможное влияние использования крупных языковых моделей (LLM) в образовательной среде на когнитивные способности человека. С учетом широкого применения таких продуктов LLM, как ChatGPT, это исследование предоставляет нам ценные идеи.
Исследовательская группа разработала четырехмесячный эксперимент, разделив участников на три группы: использующих LLM, использующих поисковые системы и полагающихся только на свои мозги. Участникам необходимо было в ограниченное время завершить задание по написанию статьи, при этом темы эксперимента в каждом раунде различались. Исследователи фиксировали электроэнцефалографические (ЭЭГ) данные участников, оценивая их когнитивные затраты и нагрузку, а также провели анализ на естественном языке и интервью.
Экспериментальные результаты показывают, что участники, полагающиеся только на мозг, демонстрируют большую разнообразие в стиле письма, в то время как статьи группы LLM показывают явную тенденцию к однородности. В использовании определенных именованных сущностей (таких как имена людей, места, годы и т.д.) группа LLM значительно превосходит две другие группы.
Исследование также показало, что участники, использующие LLM и поисковые системы, из-за нехватки времени часто склонны просто копировать содержимое, выданное инструментами, а не интегрировать свои личные мнения и опыт. Такое поведение может привести к снижению креативности и критического мышления.
В области нейронных соединений анализ ЭЭГ выявил значительные различия между тремя группами участников. С увеличением поддержки внешними инструментами степень связи в мозге систематически снижалась: только группа, полагающаяся исключительно на мозг, демонстрировала самые сильные и обширные нейронные сети, в то время как группа с поддержкой LLM проявляла наименьшую общую нейронную связь.
Стоит отметить, что в интервью после эксперимента группа LLM имела наименьшее чувство принадлежности к написанным ими статьям и показала плохие результаты в воспоминаниях о содержании, написанном несколько минут назад. Более 83% пользователей ChatGPT не смогли точно сослаться на только что завершенное содержание статьи.
Хотя это исследование еще не прошло рецензирование коллегами, его результаты указывают на то, что чрезмерная зависимость от LLM может повредить развитию навыков обучения, особенно для молодых пользователей. Исследователи предлагают провести долгосрочные лонгитюдные исследования, чтобы полностью понять влияние таких инструментов на человеческий мозг, прежде чем LLM будет широко признан полезным для человечества.
Стоит отметить, что на вопрос о данной исследовании языковая модель ИИ ответила, что исследование не указывает на то, что оно по своей сути вредно, а лишь предостерегает людей от чрезмерной зависимости от таких инструментов, игнорируя важность независимого мышления и усилий.
Это исследование предоставляет нам важные направления для размышлений: как, используя инструменты ИИ для повышения эффективности, сохранить и развить наши когнитивные способности и креативность. В эпоху быстрого развития технологий ИИ особенно важно найти баланс между использованием технологий и развитием человеческих способностей.