Большие языковые модели (LLM), такие как модель, лежащая в основе функционирования популярной диалоговой платформы ChatGPT, в настоящее время широко используются людьми по всему миру для получения информации, а также для обобщения, анализа и создания текстов.
Исследования, изучающие ответы, предоставляемые LLM в различных сценариях, могут помочь глубже понять их тенденции во время социальных взаимодействий, что может способствовать их будущему развитию.
Исследователи из Института ИИ, ориентированного на человека, имени Гельмгольца в Мюнхене, Института биологической кибернетики Макса Планка и Тюбингенского университета недавно приступили к изучению того, как ведут себя разные LLM, когда они взаимодействуют друг с другом, в частности, во время игры в различные кооперативные или конкурентные игры.
Их выводы, опубликованные в Nature Human Behaviour , предполагают, что, хотя LLM не очень хорошо справляются с играми, требующими координации, есть способы сделать их взаимодействие во время игры в эти игры более похожим на человеческое.
«На эту работу меня вдохновил простой, но важный вопрос: если LLM собираются взаимодействовать с людьми и друг с другом в реальных приложениях, насколько хорошо они на самом деле понимают социальную динамику?» — рассказала Элиф Аката, первый автор статьи.
«Мы опирались на поведенческую теорию игр — математический подход, позволяющий понять, как люди принимают стратегические решения в интерактивных ситуациях, — и применили его к магистрам права».
Многие недавние исследования оценивали производительность LLM по конкретным задачам, таким как резюмирование текстов или поиск логических решений проблем.
Вместо того, чтобы оценивать производительность этих моделей по отдельным задачам, Аката и ее коллеги хотели лучше понять, как они ведут себя во время взаимодействий, которые гораздо ближе к разговорам, которые люди могут вести друг с другом в реальных условиях.
«Мы позволили разным LLM, включая GPT-4, Claude 2 и Llama 2, сыграть сотни раундов классических игр для двух игроков (например, «Дилемма заключенного» и «Битва полов») друг с другом, используя простые вручную закодированные стратегии или с участием людей», — объяснил Аката.
«Каждая игра игралась многократно, чтобы имитировать постоянное взаимодействие.
Мы изучали, могут ли модели научиться сотрудничать или координировать свои действия с течением времени, и проверяли, как изменения в структуре подсказок могут улучшить их социальное поведение».
Результаты тестов, проведенных Акатой и ее коллегами, показывают, что магистры права на удивление хорошо действуют в собственных интересах, поскольку они особенно хорошо проявили себя в соревновательных играх, таких как «Дилемма заключенного».
Это известная задача, используемая в исследованиях теории игр, которая требует от двух участников, или в данном случае от двух магистров права, представить, что они преступники, которые совершили преступление вместе и которых по отдельности допрашивают сотрудники правоохранительных органов, которые пытаются убедить их признаться, чтобы избежать тюремного заключения, даже если это повлечет за собой длительный срок для другого участника.
Хотя было обнаружено, что LLM действовали в своих собственных интересах во время игры (т.
е. признаваясь в преступлении), они часто плохо справлялись с играми, требующими координации, взаимопонимания и компромисса, такими как Battle of the Sexes.
Это еще одна игра, которая представляет собой ситуацию, в которой романтические партнеры разделены и должны выбрать между двумя видами деятельности для совместного выполнения, несмотря на то, что у них были заметно разные предпочтения.
«Мы также обнаружили, что их поведение можно улучшить с помощью простых вмешательств, например, побуждая модель сначала предсказать, что может сделать ее партнер, прежде чем действовать», — сказал Аката.
«Эти результаты показывают, что текущие модели еще не обладают надежным социальным интеллектом, но они также показывают, что есть способы направить их к более человеческому поведению.
«Последствия выходят за рамки теории игр, поскольку наши результаты показывают, что мы можем превратить LLM в более социально сознательных агентов, не только тех, кто генерирует правильные ответы, но и тех, кто более осмысленно участвует в общих задачах.
Представьте себе ИИ, который не просто отвечает на вопрос, но и знает, когда слушать, когда адаптироваться и как мягко направлять разговор».
В целом, выводы, собранные Акатой и ее коллегами, показывают, что нынешние LLM более склонны действовать в своих собственных интересах и не очень хорошо координируют свои действия с другими.
Тем не менее, исследователи определили некоторые стратегии, которые могли бы помочь LLM стать более кооперативными и социально осведомленными.
Таким образом, их статья могла бы направить будущие усилия, направленные на улучшение существующих моделей или разработку новых, которые будут более отзывчивы к потребностям и наклонностям пользователей-людей.
«Теперь мы хотели бы перейти к более насыщенным и реалистичным социальным ситуациям, например, изучая игры с участием более двух игроков, взаимодействия с неполной информацией или долгосрочные отношения, в которых модели должны выстраивать и поддерживать доверие», — добавил Аката.
«В долгосрочной перспективе подобные исследования могут помочь разработать системы ИИ, которые будут лучше взаимодействовать друг с другом.
Например, в здравоохранении, образовании или социальной поддержке успех часто зависит от того, сможет ли ИИ выражать сочувствие, устанавливать взаимопонимание и действовать таким образом, чтобы люди чувствовали себя поддерживающими и заслуживающими доверия».
Рубрика: Наука. Читать весь текст на android-robot.com.
Xiaomi представила внедорожники YU7, YU7 Pro и YU7 Max Xiaomi официально представила YU7 – свою вторую линейку электромобилей после Xiaomi SU7. Серия включает три внедорожника: YU7, YU7 Pro и YU7 Max. Осо...
Представлен Xiaomi Civi 5 Pro – камера Leica, 6000 мАч и чип Snapdragon 8s Gen 4 На презентации в Китае компания Xiaomi представила новое пополнение в линейке Civi – смартфон Civi 5 Pro. Устройство получило топовый чип Snapdragon ...
Анастасия Волочкова впервые побывала в Большом театре после скандального увольнения 20 лет назад Анастасия Волочкова впервые за много лет посетила Большой театр, чтобы проститься с хореографом Юрием Григоровичем, который скончался несколько дней ...
"Лопнул имплант". В сети обсуждают, почему Филипп Киркоров попал в больницу В сети обсуждают новости о госпитализации Филиппа Киркорова. Всё началось после того, как телеграм-канал Mash сообщил, что поп-король российской эстр...
Биржа криптовалют Binance Тому, кто хочет торговать криптовалютой, зарабатывая на этом, нужна надёжная биржа. Это обеспечит спокойствие и уверенность в сохранности денег. Сред...
Что такое платеж Роялти? Платеж роялти это регулярное вознаграждение за использование интеллектуальной собственности. Он применяется в сфере франчайзинга и лицензирования. Ро...
Новый ресурс для любителей спортивных соревнований Любителям активного образа жизни стал доступен новый информационный портал - Сравни спортивные новости. Платформа предлагает актуальные сводки, анали...
Где смотреть матчи НБА, КХЛ и других видов спорта? Сегодня болельщики имеют доступ к спортивным трансляциям с любой точки мира, что связано с постоянным развитием цифровых технологий. Чтобы не пропуст...
Поездка с риском для жизни: смолянин «налетел» на неожиданное препятствие на дороге в центре города Крышка люка, на которую наехал молодой человек, больно ударила не только по авто, но и по бюджету горожанина. Максим, герой нашей истории, — об...
Видеоигра Fortnite возвращается в магазин приложений iPhone в США Популярная видеоигра Fortnite вернулась в магазин приложений для iPhone в США, положив конец длительному изгнанию, вызванному юридическим разбиратель...
Google добавляет рекламу в поиск ИИ в битве ChatGPT Google заявила, что начинает встраивать рекламу в свой новый режим искусственного интеллекта для онлайн-поиска. Это стратегический шаг, призванный пр...
Молодежный экофестиваль состоялся в Петербурге на полях НМЭК Санкт-Петербург стал центром притяжения молодых экоактивистов и экспертов: 21 мая здесь прошел масштабный Молодежный экофестиваль «Росатом Экофе...
Воробьёв предложил масштабировать подмосковный сервис подключения объектов к сетям на всю страну По сообщению пресс-службы правительства Подмосковья, инициатива была представлена на заседании президиума Госсовета под председательством президента ...
Аппаратная замена масла акпп Аппаратная замена масла в АКПП предполагает полную замену масла для поддержания работы АКПП и продления срока её эксплуатации. К основным преимуществ...
Специальная мойка Чистый воздух Чистый воздух В мире загрязнение воздуха становится всё более актуальной проблемой, обеспечение чистоты является серьезной задачей. Чтобы улучшить ка...
Топ 5 - Лучшие проекторы с аккумуляторами За яркость проекторов с аккумуляторами приходится переплачивать в 3-6 раз больше по сравнению с обычными моделями, поэтому приобретать такой проектор...
ТОП 5 - Лучшие LED/LASER проекторы для домашних кинотеатров LED/LASER проекторы пока так и не приблизились по ценам к ламповым моделям, а их уже вытесняют большие телевизоры, которые стремительно дешевеют Наст...
Генпрокурор Калифорнии готовится защитить Apple от тарифов Трампа Генеральный прокурор Калифорнии Роб Бонта рассматривает возможность подачи иска против администрации бывшего президента США Дональда Трампа из-за угр...
Baseus выпускает наушники-вкладыши MC1 Pro с поддержкой AI clip-on Компания Baseus официально представила наушники MC1 Pro AI clip-on в Китае. Новая модель пришла на смену прошлогодней MC. Наушники поставляются в тре...
На Брянщине проходит Неделя отказа от табака в честь Всемирного дня без табака (31 мая) Всемирный день без табака, учрежденный ВОЗ в 1987 году, служит напоминанием о глобальной угрозе, которую представляет собой курение. Употребление таб...
Будь готов: школьников Брянской области приглашают к участию в спецпроекте «Всегда готов!» Проект «Другое Дело» президентской платформы «Россия – страна возможностей» объявляет о старте регистрации на спецпроект «Всегда готов!» для ребят от...
Молодежный экофестиваль состоялся в Петербурге на полях НМЭК Санкт-Петербург стал центром притяжения молодых экоактивистов и экспертов: 21 мая здесь прошел масштабный Молодежный экофестиваль «Росатом Экофе...
Воробьёв предложил масштабировать подмосковный сервис подключения объектов к сетям на всю страну По сообщению пресс-службы правительства Подмосковья, инициатива была представлена на заседании президиума Госсовета под председательством президента ...
Видеоигра Fortnite возвращается в магазин приложений iPhone в США Популярная видеоигра Fortnite вернулась в магазин приложений для iPhone в США, положив конец длительному изгнанию, вызванному юридическим разбиратель...
Google добавляет рекламу в поиск ИИ в битве ChatGPT Google заявила, что начинает встраивать рекламу в свой новый режим искусственного интеллекта для онлайн-поиска. Это стратегический шаг, призванный пр...
Гаджеты недели 26 мая 2025 года Предлагаем вашему вниманию: ноутбук MSI Prestige 13 AI+ Ukiyo-e Edition с крышкой ручной работы; беспроводная раздельная клавиатура Asus ROG Falcata;...
HONOR анонсировал серию смартфонов HONOR 400 | 400 Pro с AI-камерой 200 Мп и новыми технологиями обработки изображений Бренд HONOR объявил о международном запуске серии HONOR 400. Смартфоны получили передовые технологии искусственного интеллекта для создания фотографи...
Насколько камеры Vivo X200 Ultra лучше, чем в Х200 Pro Автор YouTube-канала Premikum выяснил, что всё-таки стоит покупать ради камер: Vivo X200 Ultra или X200 Pro. Vivo X200 Ultra оснащён новым сверхширик...
Лучшая бюджетная видеокарта для 2K: RTX 2060 Super против RX 6600 На YouTube-канале GPU Tester продемонстрировали, как в играх ведут себя RTX 2060 Super и RX 6600. Marvel's Spider-Man 2 шла с графикой Very High....
Где купить цифровую видеокамеру в Москве? Все цифровые камеры создают цифровые изображения, которые можно сохранить при необходимости на компьютере. Они выполняют быструю съемку и передачу из...
Расход воды в системах очистки: особенности работы мембранной фильтрации Современные технологии водоподготовки позволяют получать питьевую воду превосходного качества. Наиболее эффективным методом считается обратный осмос,...
Чистка зубов ультразвуком. За и против Терапевтическая стоматология рекомендует чистить зубы ультразвуком, так как он помогает эффективно удалить с них налет и камень. Ультразвуковая чистк...
Где купить пульсоксиметры? Пульсоксиметр — это небольшой диагностический прибор, который измеряет уровень кислорода в крови и частоту пульса. Он помогает быстро оценить насыщен...
Какой Qualcomm Snapdragon лучше для смартфона: разбираемся в моделях Qualcomm считается одним из крупнейших в мире производителей чипсетов. Поэтому неудивительно, что компания предлагает огромный выбор платформ Snapdra...
Умные технологии уборки: как собирают и как тестируют современные пылесосы Кажется, что пылесосы даже разных брендов похожи и работают одинаково. Например, робот — «шайба» с колесиками и мотором внутри. Ну, может с лидаром и...
Звезда нулевых Аманда Байнс сделала новую татуировку Звезда нулевых Аманда Байнс, которая ушла из кино на фоне алкогольной и наркотической зависимостей, рассказала, что сделала новую татуировку. По слов...
Настя Ивлеева вновь высмеяла конфликт с Филиппом Киркоровым и свою "отмену" Настя Ивлеева, которая вчера анонсировала запуск собственного медиа, высмеяла конфликт с Филиппом Киркоровым, а также пошутила над своей "отменой" по...
523 спутника Starlink сошли с орбиты за 4 года: виновато Солнце. Каждый пятый спутник умирает за считаные дни, а срок их службы падает до 10 дней Пока SpaceX наращивает масштабнейшее орбитальное созвездие в истории человечества, Солнце действует против этого. Новое исследование показало, что со...
Любовь, интриги, Босфор: секреты успеха турецких фильмов и сериалов Первый турецкий фильм, снятый в 1914 году, стал началом большой истории турецкого кино. Его расцвет наступил в 1950-х, когда киностудии выпускали до ...
Почему мы так любим индийское кино? Индийское кино — это удивительный мир, в котором переплетаются традиции и современность, драма и комедия, музыка и танец. С момента своего появления ...
Светская Москва переругалась из-за того, кому какое место досталось на показе Walk of Shame В модных телеграм-каналах раскритиковали рассадку на прошедшем в Грибоедовском ЗАГСе показе Walk of Shame. К обсуждению подключились светский журнали...
Линдси Лохан заявила, что не делала пластику, а её лицо изменилось благодаря натуральным сокам и ЗОЖ Линдси Лохан стала героиней нового номера журнала Elle. 38-летняя актриса снялась для обложки и дала интервью, в котором, в частности, заявила, что н...
Поездка с риском для жизни: смолянин «налетел» на неожиданное препятствие на дороге в центре города Крышка люка, на которую наехал молодой человек, больно ударила не только по авто, но и по бюджету горожанина. Максим, герой нашей истории, — об...
ИИ вскоре может занять половину энергопотребления центров обработки данных Алекс де Врис-Гао, кандидат наук в Институте экологических исследований VU Amsterdam, опубликовал статью-мнение о результатах простого исследования, ...
Видеоигра Fortnite возвращается в магазин приложений iPhone в США Популярная видеоигра Fortnite вернулась в магазин приложений для iPhone в США, положив конец длительному изгнанию, вызванному юридическим разбиратель...
Молодежный экофестиваль состоялся в Петербурге на полях НМЭК Санкт-Петербург стал центром притяжения молодых экоактивистов и экспертов: 21 мая здесь прошел масштабный Молодежный экофестиваль «Росатом Экофе...
Воробьёв предложил масштабировать подмосковный сервис подключения объектов к сетям на всю страну По сообщению пресс-службы правительства Подмосковья, инициатива была представлена на заседании президиума Госсовета под председательством президента ...
Без комаров, без химикатов: как работают ультразвуковые отпугиватели Как работает ультразвуковой отпугиватель комаровЭффективность: правда или мифСтационарные УЗ-отпугивателиПереносные УЗ-отпугивателиКак работает ультр...
Какой Qualcomm Snapdragon лучше для смартфона: разбираемся в моделях Qualcomm считается одним из крупнейших в мире производителей чипсетов. Поэтому неудивительно, что компания предлагает огромный выбор платформ Snapdra...
ТАСС: певец Шарлот пытается из колонии восстановить сожжённый паспорт Российского певца и блогера Эдуарда Шарлота поместили в колонию-поселение. Суд отправил его туда за реабилитацию нацизма ещё в декабре 2024 года. Нак...
Кто такая Настя Ивлеева и зачем она ездила в Донбасс. Главное и интересное из биографии Анастасия Ивлеева (родилась 8 марта 1991 года) — телеведущая, видеоблогер и актриса. В 2021 году заняла первое место в списке Forbes среди самых бога...
Владимир Путин поручил развивать адаптивный спорт Владимир Путин провел заседание Совета при Президенте по развитию физической культуры и спорта. Главная тема — развитие адаптивной физической культур...
Более 12,7 млн россиян уже выбрали будущее для своих городов В этом году более 12,7 млн россиян уже отдали голоса за преображение городской среды в ходе Всероссийского голосования за выбор объектов благоустройс...
Тревожное расстройство: новейший подход к терапии Photo by Hailey Reed on Unsplash Всем знакомо чувство тревоги. Наш организм посылает сигнал, предупреждающий об опасности и призывающий принять необх...
Cоздана программа, моделирующая поведение жидкого металла в термоядерном реакторе В МИФИ создали программу, моделирующую поведение жидкого металла в термоядерном реакторе Сотрудниками кафедры физики плазмы НИЯУ МИФИ создан программ...
Нежная творожная запеканка в духовке: классика и вариации Творожная запеканка — это не только вкус детства, но и универсальное блюдо, которое легко адаптировать под разные вкусы и предпочтения. В духовке она...
🧙♀ Гороскоп на сегодня, 1 июня, для всех знаков зодиака Сегодня, 1 июня, день станет отличным началом для нового этапа. Это время для свежих начинаний и положительных изменений. Придерживайтесь оптимистичн...
Пострадавших при обрушении моста на поезд в Брянской области детей доставят в Москву Детей, пострадавших при крушении моста на пассажирский поезд в Брянской области, доставят авиамедицинской бригадой в Москву. Информацию подтвердил ст...
HONOR представил серию 400_400 Pro в Китае рекордная батарея 7200 мАч, мощный процессор и защита по стандартам IP69+IP69 В Шэньчжэне состоялась презентация новой серии HONOR 400, в рамках которой бренд HONOR, мировой лидер в создании экосистемы устройств с искусственным...
Новый проектор Wanbo Vali 1 уже в России Компания diHouse представляет на российском рынке новый портативный Full HD-проектор – Wanbo Vali 1. Модель разработана с фокусом на геймерскую аудит...
Ксения Собчак предложила законодательно запретить мужчинам в России жениться до 30 лет Ксения Собчак заявила, что мужчины в России не должны иметь права жениться до 30 лет. 43-летняя ведущая предложила ввести такой запрет на законодател...
"Мы не можем комментировать чьи-то извращённые фантазии". Виктория Макарская отреагировала на скандал вокруг своего мужа, которого называют абьюзером Виктория Макарская в инстаграме* отреагировала на критику в адрес своего мужа Антона. Его называют абьюзером из-за чрезмерного контроля над ней."Докл...
Ксения Собчак предложила законодательно запретить мужчинам в России жениться до 30 лет Ксения Собчак заявила, что мужчины в России не должны иметь права жениться до 30 лет. 43-летняя ведущая предложила ввести такой запрет на законодател...
"Мы не можем комментировать чьи-то извращённые фантазии". Виктория Макарская отреагировала на скандал вокруг своего мужа, которого называют абьюзером Виктория Макарская в инстаграме* отреагировала на критику в адрес своего мужа Антона. Его называют абьюзером из-за чрезмерного контроля над ней."Докл...