Meta verstärkt die Sicherheit der künstlichen Intelligenz (AI)

Meta hat eine Reihe von neuen Sicherheitswerkzeugen für seine KI-Modelle angekündigt, mit dem Ziel, die Entwicklung und Nutzung der KI sowohl für die Ersteller als auch für die Verteidiger im Bereich der Cybersicherheit sicherer zu gestalten.

Die Neuigkeiten betreffen insbesondere die Modellfamilie Lamadie nun über aktualisierte und anspruchsvollere Ressourcen verfügt, um aufkommende Bedrohungen zu bewältigen.

Llama Guard 4: multimodale Sicherheit für Text und Bilder im neuen AI-Programm von Meta

Eines der wichtigsten Updates ist Llama Guard 4, die Weiterentwicklung des anpassbaren Sicherheitsfilters von Meta.

Die große Innovation dieser Version ist ihre multimodale Fähigkeit, also die Möglichkeit, Sicherheitsregeln nicht nur auf Text, sondern auch auf Bilder anzuwenden. Dieser Schritt ist entscheidend, da AI-Anwendungen immer visueller werden.

Llama Guard 4 ist bereits in die neue API -Anrufe von Meta integriert, die derzeit in einer begrenzten Vorschau verfügbar ist. Entwickler können auf dieses Tool über die offizielle Seite der Llama-Schutzmaßnahmen zugreifen oder über die Plattformen Umarmtes Gesicht und Girub.

Eine weitere bedeutende Neuerung ist LlamaFirewall, ein System, das als Kommandozentrale der Sicherheit in den künstlichen Intelligenz-Systemen fungiert. Dieses Werkzeug ermöglicht die Koordination verschiedener Schutzmodelle und integriert sich mit den anderen Sicherheitswerkzeugen von Meta.

LlamaFirewall ist darauf ausgelegt, ausgeklügelte Bedrohungen wie schnelle Injektionen (sofortige Injektion), die potenziell gefährliche Codegenerierung und riskantes Verhalten von AI-Plug-ins zu bekämpfen.

Im Wesentlichen stellt es ein Bollwerk gegen die heimtückischsten Angriffe dar, die die Integrität der auf künstlicher Intelligenz basierenden Systeme gefährden können.

Meta hat außerdem sein System zur Erkennung von Jailbreak-Versuchen und Prompt Injection mit dem neuen Prompt Guard 2 (86M) aktualisiert. Dieses Modell wurde entwickelt, um die Versuche der Manipulation der KI genauer zu identifizieren.

Neben diesem wurde Schnellwache 2 22m eingeführt, eine leichtere und schnellere Version. Mit einer Reduzierung der Latenz und der Berechnungskosten um bis zu 75% ist diese Version ideal für diejenigen, die mit begrenzten Ressourcen arbeiten, aber nicht auf Sicherheit verzichten möchten.

CyberSec Eval 4: neue Benchmarks für die Sicherheit der KI

Meta hat sich nicht darauf beschränkt, Entwicklern Werkzeuge bereitzustellen, sondern hat auch seine Benchmark-Suite CyberSec Eval 4 aktualisiert, die entwickelt wurde, um die Fähigkeiten von AI-Systemen im Bereich der Cybersecurity zu bewerten.

Diese Open-Source-Suite hilft Organisationen, die Effektivität der künstlichen Intelligenz bei der Erkennung und Reaktion auf digitale Bedrohungen zu messen.

Zwei neue Werkzeuge bereichern diese Suite:

• – CyberSOC-Bewertung: entwickelt in Zusammenarbeit mit Crowdstrikebewertet dieses Framework die Leistung der KI in einem realen Kontext eines Security Operation Center (SOC) und bietet einen konkreten Einblick in die operative Effektivität der künstlichen Intelligenz.
• – AutoPatchBench: ein Benchmark, der die Fähigkeit von KI-Modellen, einschließlich der Llama-Familie, testet, Sicherheitslücken automatisch zu erkennen und zu behebenbevor sie von böswilligen Akteuren ausgenutzt werden.

Um die Einführung dieser Werkzeuge zu erleichtern, hat Meta das Programm Llama Defenders gestartet, das privilegierten Zugang zu einer Auswahl von KI-Lösungen bietet – einige Open Source, andere in Vorschau oder proprietär – die entwickelt wurden, um spezifische Herausforderungen im Bereich der Sicherheit zu bewältigen.

Zu den gemeinsam genutzten Werkzeugen gehört auch der automatischer Rang sensibler Dokumenteder intern von Meta verwendet wird.

Dieses System wendet Sicherheitskennzeichnungen auf Dokumente innerhalb einer Organisation an, um zu verhindern, dass vertrauliche Informationen versehentlich in AI-Systeme eingegeben werden, wo sie möglicherweise offengelegt werden könnten.

Meta hat sich auch mit dem wachsenden Problem des von künstlicher Intelligenz erzeugten falschen Audios befasst, das zunehmend in Betrügereien und Phishing-Versuchen verwendet wird. Zwei neue Werkzeuge wurden den Partnern zur Verfügung gestellt:

• – – Lama erzeugte Audio -Detektor
• – – Lama Audio Wasserzeichen Detektor

Diese Werkzeuge helfen dabei, synthetische Stimmen in verdächtigen Anrufen zu identifizieren. Unternehmen wie ZendeskAnwesend Bell Kanada und AT & T prüfen bereits die Integration dieser Technologien in ihre Sicherheitssysteme.

Private Verarbeitung: Nützliche KI ohne Kompromittierung der Privatsphäre

Schließlich hat Meta einen Einblick in eine Technologie gegeben, die für WhatsApp entwickelt wird, genannt private Verarbeitung.

Das Ziel ist es, der künstlichen Intelligenz nützliche Funktionen bereitzustellen – wie das Zusammenfassen ungelesener Nachrichten oder das Vorschlagen von Antworten – ohne dass weder Meta noch WhatsApp auf den Inhalt der Nachrichten zugreifen können.

Diese Technologie stellt einen wichtigen Schritt in Richtung einer datenschutzfreundlichen KI dar. Meta verfolgt einen transparenten Ansatz, indem es sein eigenes Bedrohungsmodell veröffentlicht und die Forschungsgemeinschaft einlädt, dessen Robustheit vor der offiziellen Veröffentlichung zu testen.

Mit dieser Reihe von Ankündigungen zeigt Meta ein konkretes Engagement zur Stärkung der Sicherheit der künstlichen Intelligenz, sowohl aus der Sicht der Entwicklung als auch der Verteidigung.

Das Ziel ist zweifach. Nämlich die Endbenutzer zu schützen und den Entwicklern und Sicherheitsexperten fortschrittliche Werkzeuge zur Verfügung zu stellen, um die sich ständig weiterentwickelnden digitalen Bedrohungen zu bewältigen.

In einem sich schnell verändernden technologischen Panorama, in dem die KI eine immer zentralere Rolle spielt, sind Initiativen wie diese entscheidend, um eine sicherere, transparentere und verantwortungsvollere digitale Zukunft zu gewährleisten.