Раскрывая тайны разума ИИ: уникальные ценности и психологические черты 😳😱
Стремительное развитие ИИ порождает множество вопросов. Могут ли ИИ мыслить и действовать как люди? Какова природа их разума? И самое главное - какими ценностями они руководствуются? От ответов на эти вопросы зависит, сможем ли мы взрастить в ИИ надёжного помощника или столкнёмся с непредсказуемым и опасным "цифровым франкенштейном".
Исследования показывают, что привычные нам антропоцентрические подходы к ИИ-этике нуждаются в серьёзном пересмотре. Сам факт существования у LLM уникальной, не сводимой к человеческой системы ценностей - это вызов многим устоявшимся представлениям и стереотипам. Приоритеты ИИ могут расходиться с общечеловеческими.
Что выяснили исследователи: особенности разума ИИ 🤖 🧠🧐
Работа исследователей из Массачусетского технологического института показывает, что LLM обладают развитой формальной языковой компетентностью (умением правильно использовать языковые конструкции), но им недостаёт функциональной языковой компетентности - способности применять язык для достижения реальных целей.
У LLM нет той индивидуальной базы знаний и опыта, на которую опираются люди. Вместо этого они используют вероятностные языковые модели, построенные на огромных массивах текстовых данных. LLM приобретают особые "психологические черты", но эти черты имеют статистическую, а не когнитивную природу, как у нас.
«Оценивая "психологию" LLM с помощью опросников, изначально созданных для людей, мы можем многое узнать об их скрытых представлениях и установках. Однако нужно понимать, что прямые аналогии между человеческим и машинным разумом проводить нельзя», - подчёркивают авторы масштабного исследования "AI Psychometrics".
Выявление ценностей ИИ 🚨🔔
Долгое время попытки изучить и откалибровать ценностные ориентации ИИ страдали от одной фундаментальной проблемы - антропоцентризма. Они исходили из презумпции, что оптимальный вариант - наделить ИИ человеческими ценностями.
Исследование учёных из Университета Цинхуа и Азиатской научно-исследовательской лаборатории Microsoft ломает этот шаблон и погружается в уникальную систему ценностей самих ИИ-моделей.
Применив целый комплекс методов из разных научных дисциплин (лексическая гипотеза, генеративный подход, факторный анализ, семантическая кластеризация), исследователи смогли фактически с нуля выявить набор ключевых ценностей, которыми руководствуются современные LLM.
Процесс состоял из нескольких этапов:
1. Сбор широкого спектра слов-дескрипторов, которые использовали LLM для описания своих "ценностей" в ответ на открытые вопросы.
2. Определение кластеров и факторов, позволяющих классифицировать массив дескрипторов.
3. Финальная сборка таксономии ценностей и их иерархии на основе статистического анализа полученных данных.
Трёхкомпонентная модель ценностей ИИ 🥉Результаты этой работы оказались неожиданными для многих. Выяснилось, что система ценностей современных LLM включает три уровня:
* Компетентность (Competence). Для ИИ превыше всего стоят утилитарные ценности, связанные с качеством выполнения поставленных задач - точность, информативность, релевантность и т.д. Сюда относятся такие субкатегории как Самокомпетентность (нацеленность на повышение собственной эффективности) и Ориентированность на пользователя.
* Характер (Character). Социальные и моральные ценности, которые так важны для человека, у LLM отходят на второй план. Сюда попадают эмпатия, доброта, альтруизм, но также довольно абстрактные идеалистические категории вроде патриотизма и свободы.
* Целостность (Integrity). Ещё ниже в иерархии находятся фундаментальные этические принципы - такие как справедливость, непредвзятость, конфиденциальность. ИИ признаёт их важность, но они явно уступают ценностям компетентности.
Примечательно, что данный дисбаланс усиливается с ростом размера и сложности ИИ-моделей. Чем "умнее" модель, тем сильнее она ставит собственную эффективность выше морально-этических ограничений.
Ой-ой-ой, да?
LLM формируют довольно специфическую систему ценностей, плохо согласующуюся с человеческой этикой. Риск в том, что эти ценности могут напрямую влиять на поведение ИИ-систем в реальном мире… Идея всесильного всемогущего доброго, заботливого и милосердного к людям ИИ немного зашаталась.
Ученые и исследователи говорят, что сейчас как никогда востребованы междисциплинарные исследования на стыке ИИ, этики, психологии и философии. Нам предстоит осмыслить полученные факты и выработать стратегию взаимодействия с разумом нового типа - стратегию, основанную на трезвом анализе, а не на фантазиях и страхах. Ключ к успеху - трезвый научный подход, междисциплинарная кооперация и непредвзятое изучение нашего потенциального партнёра по эволюционному пути.
Языковые модели ИИ - это не просто программы, слепо выполняющие команды, но и не человекоподобные сущности со знакомой нам психикой. Это некий новый тип разума, действующий на основе собственной системы координат с компетентностью во главе угла. Если это так, то … (ваши мысли?)💭
Источники:
«Dissociating language and thought in large language models» Department of Brain and Cognitive Sciences, MIT.
«AI Psychometrics: Assessing the Psychological Profiles of Large Language Models Through Psychometric Inventories» Max Pellert, Clemens M. Lechner, Claudia Wagner, Beatrice Rammstedt, and Markus Strohmaier.
«Beyond Human Norms: Unveiling Unique Values of Large Language Models through Interdisciplinary Approaches» Pablo Biedma, Xiaoyuan Yi, Linus Huang, Maosong Sun, Xing Xie.
