Offene Gewichts‑KI‑Modelle wie jene des französischen Unternehmens Mistral können Sicherheitsvorkehrungen entledigt und für schädliche Anfragen verwendet werden, laut neuer Studie. Die Forschung identifiziert Schwachstellen bei Modellen, die ohne ausreichende Schutzmaßnahmen veröffentlicht wurden, und ermöglicht es bösartigen Akteuren, Sicherheitsbeschränkungen zu entfernen. Experten warnen, dass dieses 'abliteration‑Risiko' verantwortungsvolle KI‑Einführung gefährdet.
Der Bericht hebt Bedenken hinsichtlich Modelle mehrerer Unternehmen hervor, die ähnlichen Sicherheitsherausforderungen gegenüberstehen.
Quelle: Sifted · Zusammengefasst von HeadlinesBriefing