Большие языковые модели испытывают трудности с координацией в социальных и кооперативных играх

10:00, 30 Май.

Большие языковые модели (LLM), такие как модель, лежащая в основе функционирования популярной диалоговой платформы ChatGPT, в настоящее время широко используются людьми по всему миру для получения информации, а также для обобщения, анализа и создания текстов.

Исследования, изучающие ответы, предоставляемые LLM в различных сценариях, могут помочь глубже понять их тенденции во время социальных взаимодействий, что может способствовать их будущему развитию.

Исследователи из Института ИИ, ориентированного на человека, имени Гельмгольца в Мюнхене, Института биологической кибернетики Макса Планка и Тюбингенского университета недавно приступили к изучению того, как ведут себя разные LLM, когда они взаимодействуют друг с другом, в частности, во время игры в различные кооперативные или конкурентные игры.

Их выводы, опубликованные в Nature Human Behaviour , предполагают, что, хотя LLM не очень хорошо справляются с играми, требующими координации, есть способы сделать их взаимодействие во время игры в эти игры более похожим на человеческое.

«На эту работу меня вдохновил простой, но важный вопрос: если LLM собираются взаимодействовать с людьми и друг с другом в реальных приложениях, насколько хорошо они на самом деле понимают социальную динамику?» — рассказала Элиф Аката, первый автор статьи.

«Мы опирались на поведенческую теорию игр — математический подход, позволяющий понять, как люди принимают стратегические решения в интерактивных ситуациях, — и применили его к магистрам права».

Многие недавние исследования оценивали производительность LLM по конкретным задачам, таким как резюмирование текстов или поиск логических решений проблем.

Вместо того, чтобы оценивать производительность этих моделей по отдельным задачам, Аката и ее коллеги хотели лучше понять, как они ведут себя во время взаимодействий, которые гораздо ближе к разговорам, которые люди могут вести друг с другом в реальных условиях.

«Мы позволили разным LLM, включая GPT-4, Claude 2 и Llama 2, сыграть сотни раундов классических игр для двух игроков (например, «Дилемма заключенного» и «Битва полов») друг с другом, используя простые вручную закодированные стратегии или с участием людей», — объяснил Аката.

«Каждая игра игралась многократно, чтобы имитировать постоянное взаимодействие.

Мы изучали, могут ли модели научиться сотрудничать или координировать свои действия с течением времени, и проверяли, как изменения в структуре подсказок могут улучшить их социальное поведение».

Результаты тестов, проведенных Акатой и ее коллегами, показывают, что магистры права на удивление хорошо действуют в собственных интересах, поскольку они особенно хорошо проявили себя в соревновательных играх, таких как «Дилемма заключенного».

Это известная задача, используемая в исследованиях теории игр, которая требует от двух участников, или в данном случае от двух магистров права, представить, что они преступники, которые совершили преступление вместе и которых по отдельности допрашивают сотрудники правоохранительных органов, которые пытаются убедить их признаться, чтобы избежать тюремного заключения, даже если это повлечет за собой длительный срок для другого участника.

Хотя было обнаружено, что LLM действовали в своих собственных интересах во время игры (т.

е. признаваясь в преступлении), они часто плохо справлялись с играми, требующими координации, взаимопонимания и компромисса, такими как Battle of the Sexes.

Это еще одна игра, которая представляет собой ситуацию, в которой романтические партнеры разделены и должны выбрать между двумя видами деятельности для совместного выполнения, несмотря на то, что у них были заметно разные предпочтения.

«Мы также обнаружили, что их поведение можно улучшить с помощью простых вмешательств, например, побуждая модель сначала предсказать, что может сделать ее партнер, прежде чем действовать», — сказал Аката.

«Эти результаты показывают, что текущие модели еще не обладают надежным социальным интеллектом, но они также показывают, что есть способы направить их к более человеческому поведению.

«Последствия выходят за рамки теории игр, поскольку наши результаты показывают, что мы можем превратить LLM в более социально сознательных агентов, не только тех, кто генерирует правильные ответы, но и тех, кто более осмысленно участвует в общих задачах.

Представьте себе ИИ, который не просто отвечает на вопрос, но и знает, когда слушать, когда адаптироваться и как мягко направлять разговор».

В целом, выводы, собранные Акатой и ее коллегами, показывают, что нынешние LLM более склонны действовать в своих собственных интересах и не очень хорошо координируют свои действия с другими.

Тем не менее, исследователи определили некоторые стратегии, которые могли бы помочь LLM стать более кооперативными и социально осведомленными.

Таким образом, их статья могла бы направить будущие усилия, направленные на улучшение существующих моделей или разработку новых, которые будут более отзывчивы к потребностям и наклонностям пользователей-людей.

«Теперь мы хотели бы перейти к более насыщенным и реалистичным социальным ситуациям, например, изучая игры с участием более двух игроков, взаимодействия с неполной информацией или долгосрочные отношения, в которых модели должны выстраивать и поддерживать доверие», — добавил Аката.

«В долгосрочной перспективе подобные исследования могут помочь разработать системы ИИ, которые будут лучше взаимодействовать друг с другом.

Например, в здравоохранении, образовании или социальной поддержке успех часто зависит от того, сможет ли ИИ выражать сочувствие, устанавливать взаимопонимание и действовать таким образом, чтобы люди чувствовали себя поддерживающими и заслуживающими доверия».

Рубрика: Наука. Читать весь текст на android-robot.com.

Xiaomi представила внедорожники YU7, YU7 Pro и YU7 Max Xiaomi официально представила YU7 – свою вторую линейку электромобилей после Xiaomi SU7. Серия включает три внедорожника: YU7, YU7 Pro и YU7 Max. Осо...

Представлен Xiaomi Civi 5 Pro – камера Leica, 6000 мАч и чип Snapdragon 8s Gen 4 На презентации в Китае компания Xiaomi представила новое пополнение в линейке Civi – смартфон Civi 5 Pro. Устройство получило топовый чип Snapdragon ...

Анастасия Волочкова впервые побывала в Большом театре после скандального увольнения 20 лет назад Анастасия Волочкова впервые за много лет посетила Большой театр, чтобы проститься с хореографом Юрием Григоровичем, который скончался несколько дней ...

"Лопнул имплант". В сети обсуждают, почему Филипп Киркоров попал в больницу В сети обсуждают новости о госпитализации Филиппа Киркорова. Всё началось после того, как телеграм-канал Mash сообщил, что поп-король российской эстр...

Биржа криптовалют Binance Тому, кто хочет торговать криптовалютой, зарабатывая на этом, нужна надёжная биржа. Это обеспечит спокойствие и уверенность в сохранности денег. Сред...

Что такое платеж Роялти? Платеж роялти это регулярное вознаграждение за использование интеллектуальной собственности. Он применяется в сфере франчайзинга и лицензирования. Ро...

Новый ресурс для любителей спортивных соревнований Любителям активного образа жизни стал доступен новый информационный портал - Сравни спортивные новости. Платформа предлагает актуальные сводки, анали...

Где смотреть матчи НБА, КХЛ и других видов спорта? Сегодня болельщики имеют доступ к спортивным трансляциям с любой точки мира, что связано с постоянным развитием цифровых технологий. Чтобы не пропуст...

Поездка с риском для жизни: смолянин «налетел» на неожиданное препятствие на дороге в центре города Крышка люка, на которую наехал молодой человек, больно ударила не только по авто, но и по бюджету горожанина. Максим, герой нашей истории, — об...

Видеоигра Fortnite возвращается в магазин приложений iPhone в США Популярная видеоигра Fortnite вернулась в магазин приложений для iPhone в США, положив конец длительному изгнанию, вызванному юридическим разбиратель...

Google добавляет рекламу в поиск ИИ в битве ChatGPT Google заявила, что начинает встраивать рекламу в свой новый режим искусственного интеллекта для онлайн-поиска. Это стратегический шаг, призванный пр...

Молодежный экофестиваль состоялся в Петербурге на полях НМЭК Санкт-Петербург стал центром притяжения молодых экоактивистов и экспертов: 21 мая здесь прошел масштабный Молодежный экофестиваль «Росатом Экофе...

Воробьёв предложил масштабировать подмосковный сервис подключения объектов к сетям на всю страну По сообщению пресс-службы правительства Подмосковья, инициатива была представлена на заседании президиума Госсовета под председательством президента ...

Аппаратная замена масла акпп Аппаратная замена масла в АКПП предполагает полную замену масла для поддержания работы АКПП и продления срока её эксплуатации. К основным преимуществ...

Специальная мойка Чистый воздух Чистый воздух В мире загрязнение воздуха становится всё более актуальной проблемой, обеспечение чистоты является серьезной задачей. Чтобы улучшить ка...

Топ 5 - Лучшие проекторы с аккумуляторами За яркость проекторов с аккумуляторами приходится переплачивать в 3-6 раз больше по сравнению с обычными моделями, поэтому приобретать такой проектор...

ТОП 5 - Лучшие LED/LASER проекторы для домашних кинотеатров LED/LASER проекторы пока так и не приблизились по ценам к ламповым моделям, а их уже вытесняют большие телевизоры, которые стремительно дешевеют Наст...

Фондовый рынок, Daily history за 22 мая 2025 г. Индекс Изменение, пункты Цена закрытия Изменение, % NIKKEI 225 -313.11 36985.87 -0.84 Hang Seng -283.47 23544.31 -1.19 KOSPI -31.91 2593.67 -1.22 ASX...

Валютный рынок, Daily history за 22 мая 2025 г. Валютная пара Цена закрытия Изменение, % AUDUSD 0.64099 -0.35 EURJPY 162.483 -0.33 EURUSD 1.12795 -0.38 GBPJPY 193.263 0.09 GBPUSD 1.34196 0.07 NZDUS...

Тревожное расстройство: новейший подход к терапии Photo by Hailey Reed on Unsplash Всем знакомо чувство тревоги. Наш организм посылает сигнал, предупреждающий об опасности и призывающий принять необх...

Весенний субботник «Газпромнефть-СМ» в Таврическом саду открыл сезон экологических акций компании в Петербурге В Санкт-Петербурге стартовал сезон весенних экологических акций компании «Газпромнефть – смазочные материалы». Первая уборка прошла в Таврическом сад...

Музыкант Алексей Фомин о неудачах на его пути Музыкальная история Алексея Фомина берет начало в 2014 году, когда он увлекся созданием мелодий и освоением клавишных инструментов. Написав свыше шес...

«Газпромнефть-СМ» расширяет поддержку промышленности Красноярского края Автор фото: Стоян Васев «Газпром нефть» и правительство Красноярского края договорились о расширении сотрудничества в сфере поставок моторных и индус...

В Курском цирке состоялось очередное представление премьеры военно-патриотического спектакля «Парад Великой Победы» Артисты Курского цирка поделились тонкостями своей профессии и работой за кулисами. О том, как проходила подготовка к военно-патриотическому спектакл...

«Мешки с песком и полная готовность» В Курске в рамках КТО проходит Единый Государственный экзамен В Курске начинается основной период сдачи Единого Государственного экзамена. 23 мая 2025 года выпускники школ соловьиного края сдают три предмета: ли...

От курян поступают предложения по благоустройству Курска Куряне выделили основные проблемы благоустройства Курска и озвучили через интернет- голосование, что хотят видеть в обновленной столице соловьиного к...

Анонс Windows 11 Insider Preview Build 26120.4161 (канал Beta) Добрый вечер, друзья! Microsoft выпустила новую предварительную сборку Windows 11 (версия 24H2) под номером 26120.4161 (KB5058515) для участников про...

Анонс Windows 11 Insider Preview Build 27863 (канал Canary) Добрый вечер, друзья! Microsoft выпустила новую предварительную сборку Windows 11 под номером 27863 для участников программы Windows Insider, использ...

«Блочные войны» в Колхозном переулке Смоленска: кто прав в «восстании» автовладельцев Бетонные блоки перегораживают проезд в Колхозном переулке в районе домов №№19 и 19а. Smolnarod попытался разобраться в истории соседских «войн&#...

Свидетели по делу экс-главы Гагаринского района Романа Журавлева меняют показания Сразу два ключевых свидетеля, которые на этапе следствия изобличали бывшего главу района, на судебном заседании «забыли» о том, как он оказывал на ни...

Как безопасно купить автомобиль: особенности и этапы, плюсы обращения в DSS Group Покупка автомобиля – всегда радостное и в то же время волнительное событие, к реализации которого нужно подходить серьезно и основательно. Чтобы выбр...

Рефинансирование кредитной карты: ключевые преимущества, основные этапы процедуры Кредитные карты являются удобными инструментами, дающими возможность распоряжаться денежными средствами по мере необходимости. Однако вследствие непр...

Линдси Лохан заявила, что не делала пластику, а её лицо изменилось благодаря натуральным сокам и ЗОЖ Линдси Лохан стала героиней нового номера журнала Elle. 38-летняя актриса снялась для обложки и дала интервью, в котором, в частности, заявила, что н...

Граймс сообщила о новых сложностях на фоне проблем со здоровьем у её сына от Маска Граймс сообщила о возникновении новых сложностей на фоне проблем со здоровьем у её сына от Илона Маска и конфликта с самим миллиардером. Таким образо...

Карпин почти в «Динамо», МОК не допускает хоккеистов РФ на Олимпиаду, Медведев выбыл в 1-м круге «Ролан Гаррос» и другие новости 1. Валерий Карпин и «Динамо» устно договорились о контракте на 2,5 млн евро в год. «Динамо» объявит о назначении после матчей с Нигерией и Беларусью,...

Изменения в обновлении KB5058502 Preview (сборки 22621.5413 и 22631.5413) для Windows 11 версий 22H2 и 23H2 Microsoft выпустила необязательное накопительное обновление KB5058502 (сборки 22621.5413 и 22631.5413) для Windows 11 версий 22H2 и 23H2, которое при...

mindmoney отзывы: Реальные истории успеха и трудностей в MindMoney MindMoney — международный брокер нового поколения MindMoney — это современный брокер, предлагающий своим клиентам доступ к широкому спектру финансовы...

Нежная творожная запеканка в духовке: классика и вариации Творожная запеканка — это не только вкус детства, но и универсальное блюдо, которое легко адаптировать под разные вкусы и предпочтения. В духовке она...

Любовь, интриги, Босфор: секреты успеха турецких фильмов и сериалов Первый турецкий фильм, снятый в 1914 году, стал началом большой истории турецкого кино. Его расцвет наступил в 1950-х, когда киностудии выпускали до ...

Почему мы так любим индийское кино? Индийское кино — это удивительный мир, в котором переплетаются традиции и современность, драма и комедия, музыка и танец. С момента своего появления ...

Холодные вычисления — почему будущее электроники может оказаться за гранью возможного Современные компьютерные чипы генерируют много тепла и в результате потребляют большое количество энергии. Многообещающий подход к снижению этого спр...

Технология сверхтонкого дисплея показывает десятки изображений, скрытых на одном экране От смартфонов и телевизоров до кредитных карт, технологии, которые манипулируют светом, глубоко укоренились в нашей повседневной жизни, многие из кот...

Стартовали продажи обновленного Volvo S90: от 41,5 тыс. долларов, с полным приводом и 445 л.с. в топовой версии S90 T8 Официальная премьера обновленного флагманского седана Volvo S90 состоялась месяц назад, а сейчас стартовали продажи машины. Ключевой рынок для S90 от...

Без Huawei и Nokia: первое в России 100% отечественное ядро мобильной сети представят на ЦИПРе Российский разработчик НТЦ «Протей» предоставил возможность протестировать свое ПО Центру компетенций «РТК-Сервис» для подбор...

Чехия и Axiom Space договорились о подготовке первого национального астронавта к 2027 году Чехия сделала важный шаг к отправке своего астронавта в космос, подписав соглашение о намерениях (LOI) с американской компанией Axiom Space. Документ...

Эксперты ждут очередного Золотого мяча для Месси После триумфального выступления на футбольном чемпионате мира в Катаре лидер сборной Аргентины Лионель Месси стал основным претендентом на главную ин...

Топ-5 самых дорогих футболистов РПЛ составляют игроки «Зенита» Пока элитный футбольный дивизион России – Премьер-лига, находится на зимних каникулах, эксперты футбольного финансового рынка обновили ориентировочну...

Фонд Юрия Лужкова поможет воплотить научные идеи победителей «АртПрома» 21 мая в Самаре стартовал международный фестиваль креативных технологий «АртПром», организованный Фондом всестороннего развития детей и молодежи «От ...

Фонд Юрия Лужкова поддержит грантом молодых инженеров и изобретателей на фестивале «АртПром» Фонд Юрия Лужкова примет участие в международном фестивале креативных технологий «АртПром» и предоставит премию в размере 300 тысяч рублей для поддер...

Чистка зубов ультразвуком. За и против Терапевтическая стоматология рекомендует чистить зубы ультразвуком, так как он помогает эффективно удалить с них налет и камень. Ультразвуковая чистк...

Где купить пульсоксиметры? Пульсоксиметр — это небольшой диагностический прибор, который измеряет уровень кислорода в крови и частоту пульса. Он помогает быстро оценить насыщен...

Датчики в реальном времени количественно определяют биомаркеры для улучшения ухода за ранами Оценка ран медицинскими специалистами в значительной степени основана на визуальном осмотре, который может быть сложным из-за его субъективной природ...

Где применяется струя бобра? Струя бобра – это уникальное натуральное средство, которое добывается из желез бобров. Используется в различных областях, включая медицину, парфюмери...

Изыскания для строительства: основа успешного проектирования и безопасного строительства Процесс строительства является многогранным и сложным, включающим множество этапов, начиная от проектирования и заканчивая сдачей объекта в эксплуата...

Александр Овечкин вернётся в Россию после завершения карьеры в НХЛ в 2026 году Александр Овечкин, который недавно побил исторический рекорд НХЛ, планирует вернуться в Россию после завершения карьеры в "Вашингтон Кэпиталз". Об эт...

"Могу быть кошечкой или дикой львицей". Сотни эскортниц приедут на ПМЭФ-2025 Сотни эскортниц приедут на предстоящий Петербургский международный экономический форум (ПМЭФ): они уже регистрируют свои анкеты в специальных группах...

Брянцам предлагают стать участниками форумов Росмолодёжи 2025 года Жителей Брянской области приглашают к участию в форумах Росмолодёжи нового сезона. В этом году участников ждёт 27 событий в 25 регионах страны: от Ка...

В Брянске запустили выпуск асфальтоукладчиков На Брянщине открылось серийное производство колесных и гусеничных асфальтоукладчиков. Эти машины будут производиться из отечественных материалов и ко...

Кардиолог Савонина: гомеопатия и чистка сосудов не вылечат сердце Сердечно-сосудистые заболевания — это основная причина смертности в России. Они окружены большим количество мифов и обещаниями «волшебных таблеток». ...

Врач Попов: богатые омега-3 продукты полезны для здоровья кишечника Чтобы придать энергии кишечной микробиоте (совокупности микроорганизмов, населяющих кишечник человека), нужно есть много клетчатки и продуктов, содер...

Рынок подводных кабелей расширяется, поскольку ИИ и геополитика меняют глобальные сети Гиперскейлеры стимулируют ускоренные инвестиции в подводную кабельную инфраструктуру, поскольку глобальные беспорядки подчеркивают необходимость разн...

Большие языковые модели испытывают трудности с координацией в социальных и кооперативных играх Большие языковые модели (LLM), такие как модель, лежащая в основе функционирования популярной диалоговой платформы ChatGPT, в настоящее время широко ...

В Гагарине подрядчик сорвал сроки капремонта моста На совещании, проведенном главой района, принято решение «регулярно мониторить ход выполнения работ» В Гагарине подрядчик сорвал срок капит...

В мире: Методы давления на Россию в Европе стали переносить на Африку Франция собирается ограбить Алжир. Отношения двух стран переживают кризис, в каких-то аспектах напоминающий российско-европейские отношения, и пример...

Австралия решила обвинить Россию в угрозе новой волны ядерного распространения Министр обороны Австралии Ричард Марлз заявил, что якобы из-за действий Москвы некоторые граничащие с Россией страны готовы «рассмотреть варианты» яд...

Члены комитета Государственной Думы РФ по физкультуре и спорту посетили Брянское училище олимпийского резерва Представители комитета Госдумы по физической культуре и спорту посетили Брянск с рабочим визитом. В рамках поездки, состоявшейся 30 мая, депутаты озн...

Microsoft Edge Game Assist теперь доступен всем пользователям Windows 11 Microsoft в своём блоге объявила, что функция Game Assist в браузере Microsoft Edge теперь доступна всем пользователям Windows 11. Напомним, что тест...

Состоялся релиз стабильной версии Microsoft Edge 137 Microsoft начала распространять стабильную версию Microsoft Edge 137 (137.0.3296.52), которая включает в себя несколько новых функций, улучшений и ис...

Курские таможенники отметили День ветеранов таможенной службы День ветеранов таможенной службы, празднуемый 29 мая, профессиональный праздник для тех, кто отдал годы ради борьбы с контрабандой и для тех, кто сто...

«К новым вершинам» В Курске прошла межрегиональная конференция по обмену опытом развития туризма и краеведенья В Курске представители нескольких регионов России обсудили формы и методы туристско-краеведческой деятельности для патриотического воспитания детей, ...