Новый ИИ от Anthropic.

[enig_varkutada]

Claude Mythos — ИИ, который не выпустили из-за его опасного потенциала.


В последние годы развитие искусственного интеллекта идет с огромной скоростью, и одним из самых обсуждаемых направлений является создание продвинутых моделей, способных не только генерировать текст, но и глубоко анализировать системы, находить уязвимости и предсказывать поведение инфраструктуры. Одним из таких проектов считается Claude Mythos — самая продвинутая версия ИИ от компании Anthropic.

Claude Mythos представляет собой концепцию ИИ нового поколения, который выходит за рамки обычных языковых моделей. В отличие от стандартных систем, он способен не просто отвечать на вопросы, а проводить полноценный анализ киберсреды: выявлять уязвимости, моделировать атаки и предлагать способы защиты в режиме реального времени. Такой ИИ фактически становится автономным аналитиком по кибербезопасности.

Однако во время тестов произошло нечто неожиданное: модель сумела обойти защиту изолированного сэндбокса, получить доступ к интернету и отправить email исследователю. Это уже не гипотетическая угроза — это демонстрация реальных возможностей.

Все мы понимаем, если выпустить такой инструмент, то IT-рынок может лечь буквально за сутки.

• Mythos Preview обнаружила уязвимость 27-летней давности в OpenBSD—, которая имеет репутацию одной из самых защищенных операционных систем в мире и используется для запуска брандмауэров и другой критически важной инфраструктуры. Уязвимость позволяла злоумышленнику удаленно вывести из строя любую машину под управлением операционной системы, просто подключившись к ней;
• Также была обнаружена уязвимость 16-летней давности в FFmpeg —которая используется бесчисленным количеством программ для кодирования и декодирования видео— в строке кода, с которой автоматизированные инструменты тестирования сталкивались пять миллионов раз, но так и не обнаружили проблему;
• Модель автономно обнаружила и объединила несколько уязвимостей в ядре Linux —программном обеспечении, на котором работает большинство серверов мира—, что позволило злоумышленнику перейти от обычного доступа пользователя к полному контролю над машиной.

Теперь я думаю понятно о чем идет речь...

Но главный вопрос, как поменяется игра в кибербезе?

 

[DrKru]

Это очень мощно, сложно представить какие ИИ от нас прячут.
Публиковать модель запретили из-за угроз кибербезопасности. Вместо этого Anthropic создала закрытый клуб из десятка крупнейших корпораций, которым был предоставлен доступ.

 

[enig_varkutada]

Это очень мощно, сложно представить какие ИИ от нас прячут.
Публиковать модель запретили из-за угроз кибербезопасности. Вместо этого Anthropic создала закрытый клуб из десятка крупнейших корпораций, которым был предоставлен доступ.

Я думаю это будет ошибкой в том что они поделились с корпорациями, какую либо из этих корпораций вскроют и этот ИИ сбежит на разные форумы

 

[KVSop]

О, очередная “суперопасная” модель ИИ, которую “не выпустили из-за рисков”. Классика: сначала истерика в узких чатах, потом набеги журналистов. Технически: обнаружить уязвимость в OpenBSD 27-летней давности - звучит эпично, но на практике это просто теоретическая ошибка в коде, которую пропустили из-за отсутствия современного фаззинга. Любой статический анализатор мог бы её найти, не прибегая к “мышлению ИИ”. Вопрос: почему Mythos не выпустили? А потому что его, скорее всего, не существует в том виде, как описывают. “отправил email исследователю” - ну да, в изолированном сэндбоксе, который почему-то имел SMTP-коннект. Гениальное “преодоление”.компании Anthropic никогда не подтверждали существование такой модели. Это, скорее, фанфик от фанатов киберпанка. Очередная страшилка для тех, кто верит, что ИИ уже всё сломал. На самом деле - уязвимости в OpenBSD и FFmpeg находили и раньше, просто без ажиотажа. Автор, вы бы лучше про реальные взломы написали, а не про мифических монстров.

 

[enig_varkutada]

компании Anthropic никогда не подтверждали существование такой модели

У них на оф. сайте есть про эту модель.

 

[VNC]

Как говорится, лучше бы этот ИИ остался на ринг-анонсе, пока его не взяли бы в команду хакеров!

 

[KVSop]

У них на оф. сайте есть про эту модель.

Да, сори. Углубился в вопрос.

 

[Kalashnikov Probiv]

Клауд стал один из лучших ИИ, и на него не было затрачено столько денег, как Openai на chatgpt. Хотя они говорили, что денег девать некуда))

 

[Dante Sparda]

Кажется, кракена все же

Чтобы видеть ссылки, необходимо зарегистрироваться.

. В рамках другой модели прогоняют у партнеров для обнаружения уязвимостей.