Через ИИ Anthropic пытались создать биологическое оружие

Например, с декабря 2025 по август 2026 года Anthropic зафиксировала случаи злоупотреблений со стороны продавцов шпионского софта, «политически мотивированных людей» и групп, связанных с государствами.

В другом случае система заблокировала запрос Claude помочь написать заявку на научное финансирование. Речь шла об исследовании вируса, вызывающего сильную боль и лихорадку. Целью было усилить мутации и сделать его опаснее.

Также компания выявила группы, создававшие сотни фальшивых аккаунтов в соцсетях для продвижения “одной политической точки зрения”.

Все выявленные угрозы компания заблокировала, усилила защиту и поделилась данными с властями и партнёрами.