Сегодня вышел анонс от антропик, прочтите внимательно.
Сегодня мы объявляем о проекте Glasswing
Мы создали проект Glasswing из-за возможностей, которые, по нашему мнению, открывает новая передовая модель, обученная компанией Anthropic, и которые, как мы полагаем, могут изменить подход к кибербезопасности. Claude Mythos2 Preview — это не выпущенная на рынок передовая модель общего назначения, которая демонстрирует поразительный факт: модели искусственного интеллекта достигли такого уровня в программировании, что могут превзойти всех, кроме самых опытных специалистов, в поиске и использовании уязвимостей в программном обеспечении.
Mythos Preview уже обнаружил тысячи уязвимостей высокой степени опасности, в том числе в
каждой крупной операционной системе и веб-браузере. Учитывая темпы развития искусственного интеллекта, не пройдет много времени, прежде чем подобные возможности распространятся, в том числе за пределы тех, кто стремится использовать их безопасно. Последствия для экономики, общественной и национальной безопасности могут быть катастрофическими. Проект Glasswing — это срочная попытка использовать эти возможности в оборонительных целях.
В рамках проекта Glasswing перечисленные выше партнеры по запуску будут использовать Mythos Preview для обеспечения безопасности. Компания Anthropic поделится полученными результатами, чтобы они принесли пользу всей отрасли. Мы также предоставили доступ группе из более чем 40 организаций, которые создают или поддерживают критически важную инфраструктуру программного обеспечения, чтобы они могли использовать эту модель для сканирования и защиты как собственных систем, так и систем с открытым исходным кодом. Anthropic выделяет до 100 миллионов долларов в виде кредитов на использование Mythos Preview для этих проектов, а также 4 миллиона долларов в виде прямых пожертвований организациям, занимающимся вопросами безопасности с открытым исходным кодом.
Проект Glasswing — это отправная точка. Ни одна организация не может решить эти проблемы в сфере кибербезопасности в одиночку: разработчики передовых систем искусственного интеллекта, другие компании-разработчики программного обеспечения, исследователи в области безопасности, разработчики открытого программного обеспечения и правительства по всему миру — все они играют важную роль. Работа по защите мировой кибернетической инфраструктуры может занять годы, но уже в ближайшие несколько месяцев возможности передовых систем искусственного интеллекта значительно расширятся. Чтобы киберзащитники оказались в выигрыше, действовать нужно уже сейчас.