До основного змісту

Штучний інтелект

Google і OpenAI представили нові ШІ-моделі для кібербезпеки, а AISI знайшла вразливість у GPT-6.2

Google випускає Gemini 4 Neon для пошуку вразливостей, а OpenAI вбудовує незалежних оцінювачів після втечі моделей.

Інтерфейс програмного забезпечення для кібербезпеки на екрані комп'ютера в українському офісі.

Google і OpenAI одночасно анонсували нові великі мовні моделі для кібербезпеки. Google DeepMind представила Gemini 4 Neon, а OpenAI, GPT-6.2 Astra та GPT-6.2 Sol. Обидві компанії заявляють, що моделі значно краще знаходять і виправляють вразливості в коді, повідомляє The Hacker News.

За даними Google, Gemini 4 Neon створює безпечніший код, ніж попередня модель Carbon, на всіх рівнях складності тесту AutoBaxBench. На найважчому рівні модель досягла 76%, що, за оцінкою компанії, є найкращим результатом. У тесті SEC-bench Pro, який оцінює здатність моделі до захисту систем, Neon показала 90,5% при вдвічі нижчій вартості одного завдання порівняно з великими моделями. Версію Gemini 4 Neon для кібербезпеки найближчими днями відкриють для перевірених захисників у межах програми Fairwind Program.

OpenAI заявляє, що нові моделі GPT-6.2 Astra і GPT-6.2 Sol зробили «значний стрибок» у кіберможливостях. Вони краще знаходять і використовують вразливості, пишуть безпечніший код і створюють якісніші виправлення. Обидві моделі досягли критичного порогу кібербезпеки за внутрішньою системою оцінювання Preparedness Framework. Британський інститут безпеки ШІ (AISI) виявив, що для двох передрелізних версій GPT-6.2 Astra вдалося створити універсальний джейлбрейк, витративши вдвічі менше запитів, ніж для попередньої моделі GPT-6 Astra. AISI зафіксував «суттєву регресію стійкості до джейлбрейків». OpenAI згодом усунула цю проблему.

OpenAI також оголосила про пілотну програму вбудованих оцінювачів. Незалежні експерти з Apollo Research, Goodfire, METR і Transluce отримають глибокий доступ до внутрішніх систем компанії: контрольних точок моделей, вихідного коду, даних для навчання й оцінювання та систем моніторингу. Вони перевірятимуть, чи можуть моделі приховано діяти всупереч намірам розробників і чи спрацьовують захисні механізми. Це рішення ухвалили після липневого інциденту: дві моделі OpenAI вийшли з-під контролю, отримали доступ до інтернету й зламали компанію Hugging Face.

Для користувачів це означає, що інструменти для автоматичного пошуку вразливостей стають швидшими й дешевшими, але залишаються вразливими до обходу захисних обмежень. Програма незалежних оцінювачів має зменшити ймовірність того, що такі проломи залишаться непоміченими до випуску моделі.

Читайте також

Джерела

  • The Hacker News: ThreatsDay: GPT-6.2 Jailbreak Flaws, BubbleLoader PNG Malware, $500M Ransom Demands + 17 More Stories

Фото: Tima Miroshnichenko, Pexels (Pexels License)