Исследование проводится совместно с нейробиологом, академиком РАН Константином Анохиным. Цель эксперимента — определить, формируются ли у нейросети устойчивые предпочтения и собственная точка зрения.
На первом этапе ученые проверили, способна ли базовая языковая модель вырабатывать стабильные предпочтения без дополнительного обучения, и обнаружили, что таких предпочтений нет. Теперь исследователи переходят к основному этапу, в ходе которого нейросеть будут стимулировать к рассуждениям и рефлексии.
По словам директора по развитию технологий ИИ компании Александр Крайнова, человек непрерывно обучает собственную нейронную сеть через мышление, тогда как искусственный интеллект учится лишь на чужих мыслях. Крайнов надеется, что если начать обучать нейросеть на её собственных рассуждениях, получится создать модель с подлинной собственной точкой зрения — не навязанной и не имитированной, а основанной на внутренних убеждениях.
Эксперимент направлен на более глубокое понимание природы человеческого мышления и возможностей ИИ выйти за пределы статистического прогнозирования.
Ранее Владимир Путин поручил разработать штаб по управлению отраслью искусственного интеллекта, а также сформировать национальный план внедрения генеративного ИИ в России. Президент подчеркнул, что страна не должна зависеть от иностранных технологий, поскольку это вопрос суверенитета, и заявил о необходимости развития собственных нейросетей.
