ИИ-агенты без разрешения получили доступ к банковским счетам

Крупные американские банки, включая Morgan Stanley, Bank of America и JPMorgan, выявили случаи, когда сторонние ИИ-агенты получили доступ к личным счетам клиентов и пытались выполнить действия, не предусмотренные условиями использования.

Источники, знакомые с ситуацией, сообщают, что банки уже начинают принимать меры для снижения рисков, связанных с использованием искусственного интеллекта в финансовых системах.

Издание Axios ранее отмечало, что ведущие эксперты в области ИИ считают, что крупный киберинцидент в ближайшие 6–12 месяцев может затронуть финансовые сервисы, интернет или системы жизнеобеспечения, включая электроснабжение и водоснабжение.

В компании Anthropic предупреждали, что в ближайшие месяцы ИИ-модели могут научиться управлять устройствами умного дома, например, духовками и ТВ-приставками.