Технологии «в руках злодеев могут быть использованы для усиления их способности причинять вред»

Технологии «в руках злодеев могут быть использованы для усиления их способности причинять вред» Следите за нашими публикациями на нашем телеграмм-канале: Американская IT-компания Anthropic опубликовала на своем сайте доклад под скромным названием «Картирование разума большой языковой модели» (Mapping the Mind of a Large Language Model), в котором рассказывается о проведенных с чат-ботом Claude экспериментах с целью понимания внутренней работы моделей ИИ. В Anthropic считают, что в ходе этих экспериментов был достигнут значительный прогресс, однако на самом деле американские айтишники нашли очередную уязвимость в работе одного из самых мощных чат-ботов, разработав методики деформирования матрицы «личности» чат-бота, попросту говоря, превращения его в киберманьяка, одержимого той или иной навязчивой идеей, думающего и бредящего только о ней. #Искра, #ИИ, #чат-бот,