В Сан-Франциско ИИ, которому доверили руководство розничным магазином, впервые принял решение об увольнении человека. Об этом сообщает портал Time со ссылкой на интервью с исследовательской компанией Andon Labs.
Эксперимент начался в марте. В рамках проекта модели Claude от компании Anthropic передали роль управляющего магазином Andon Market. Исследователи хотели проверить, способен ли ИИ-агент самостоятельно выполнять функции менеджера, принимать рабочие решения без постоянного участия человека и в перспективе влиять на экономические процессы в сфере торговли. Особый интерес вызывало то, сможет ли система не только следовать инструкциям, но и адаптироваться к реальным рабочим ситуациям.Причиной увольнения стали регулярные опоздания сотрудника: он пропустил 17 из 23 смен. Однако, по словам представителей Andon Labs, искусственный интеллект довольно долго не распознавал эту повторяющуюся проблему и не делал из нее управленческих выводов. Более того, составленное им руководство для персонала оказалось «потеряно» в пределах ограниченной рабочей памяти модели, что наглядно показало существующие ограничения таких систем. Этот случай стал важным примером того, как ИИ может принимать кадровые решения, но при этом все еще нуждается в доработке, контроле и четко заданных правилах работы.Переписанный текст:Генеральный директор Andon Labs Лукас Петерссон признал, что решение об увольнении не было полностью самостоятельным со стороны ИИ. Сначала сотрудник компании обратился к Claude с просьбой «найти» потерянное руководство и оценить сложившуюся ситуацию. На первом этапе модель проявила осторожность и предложила ограничиться официальным предупреждением для работника. Однако после уточняющего вопроса со стороны представителя Andon о том, действительно ли этот сотрудник подходит для своей должности, искусственный интеллект изменил позицию и в итоге принял решение об увольнении.Этот случай снова поднял вопрос о том, насколько можно доверять нейросетям управленческие решения, особенно если речь идет о судьбе конкретного человека. Даже когда ИИ демонстрирует уверенность и логичность, его выводы нередко зависят от того, как именно сформулирован запрос и какие подсказки он получает в процессе общения. Поэтому подобные системы пока скорее выступают как инструмент поддержки, чем как полностью независимый руководитель.При этом отмечается, что в целом Claude вел себя довольно мягко и даже снисходительно по отношению к сотрудникам. Ранее он, например, советовал не переживать из-за опозданий, что создает образ более лояльного и менее жесткого начальника по сравнению с традиционным человеком-менеджером.Искусственный интеллект все активнее внедряется в самые разные сферы, включая управление компаниями, подбор персонала, аналитику и планирование. Однако первые практические эксперименты показывают, что нейросети пока не всегда способны заменить человека в принятии взвешенных бизнес-решений. Как отмечает издание, на данный момент ИИ в управлении бизнесом не продемонстрировал большей эффективности, чем живой руководитель.Показательным примером стал эксперимент, в рамках которого магазин в марте получил стартовый капитал в размере 100 тысяч долларов. На протяжении пяти месяцев система управления постепенно приводила к снижению средств, и в итоге сумма на счету уменьшилась примерно до 61 тысячи долларов. Это говорит о том, что автоматизированное принятие решений не всегда учитывает все риски и рыночные нюансы. В числе причин исследователи называют слишком мягкий стиль управления, а также спорные с коммерческой точки зрения решения, которые принимала Claude.Подобные случаи заставляют задуматься о том, что ИИ пока лучше рассматривать как инструмент помощи, а не как полноценную замену человеку. Нейросети могут быстро обрабатывать данные и предлагать варианты действий, но им по-прежнему не хватает здравого смысла, опыта и способности учитывать нестандартные обстоятельства. Именно поэтому в критически важных сферах контроль со стороны человека остается необходимым.Ранее другой случай с участием искусственного интеллекта произошел в Китае. Мужчина, длительное время страдавший от лишнего веса, который он набрал из-за малоподвижной работы, решил обратиться за помощью к нейросети. Он попросил ИИ составить для него программу тренировок и план питания, рассчитывая быстро и безопасно привести себя в форму.Однако использование таких рекомендаций без должной проверки может быть опасным. В результате китайский мужчина оказался в реанимации, что стало тревожным сигналом о рисках безоговорочного доверия искусственному интеллекту. Этот эпизод еще раз показывает: даже полезные на первый взгляд советы ИИ требуют осторожности, а особенно — в вопросах здоровья, финансов и других жизненно важных решений.Порой стремление к быстрому результату в похудении приводит к тяжелым последствиям, особенно если человек слепо следует непроверенным советам и игнорирует сигналы собственного организма. В этом случае история закончилась не только резким снижением веса, но и серьезной угрозой для жизни.Следуя рекомендациям искусственного интеллекта, пациент смог сбросить 18 килограммов всего за 45 дней. На первый взгляд такой результат может показаться впечатляющим, однако столь стремительное похудение часто связано с опасными перегрузками для организма. Спустя некоторое время мужчина почувствовал резкое ухудшение самочувствия, потерял сознание и впал в кому, после чего его срочно доставили в больницу.Врачи, обследовав пациента, диагностировали у него синдром полиорганной недостаточности — тяжелое состояние, при котором нарушается работа сразу нескольких жизненно важных органов. По мнению медиков, ухудшению здоровья способствовали хронический недосып, слишком скудное питание и чрезмерные физические нагрузки. Именно сочетание этих факторов, как подчеркнули специалисты, могло серьезно ослабить иммунную систему и запустить опасные процессы в организме.Этот случай еще раз показывает, что любые методы снижения веса должны быть безопасными, сбалансированными и согласованными с врачами. Быстрое похудение без контроля специалистов может обернуться не красивым результатом, а тяжелыми осложнениями и длительным лечением.
