Wir bewegen uns schnell in eine Computerlandschaft, die von hochgradig allgemeinen, zunehmend autonomen Agenten geprägt ist. Angetrieben von großen Sprachmodellen (LLMs), die dynamisch Pläne erstellen und externe Tools aufrufen können, bieten diese Systeme das Potenzial für KI, komplexe mehrstufige Aufgaben nahtlos in unserem Namen zu erledigen. Die Verwirklichung dieses Potenzials erfordert jedoch die Lösung einer zentralen Herausforderung: die Fähigkeit von Agenten zu ermöglichen und gleichzeitig sicherzustellen, dass Agenten angemessen handeln. Heute teilen wir einen umfassenden neuen Workshop-Bericht, „Offene und neu entstehende Probleme bei der Privatsphäre und Sicherheit von Agenten: Ein kontextueller Blickwinkel“, das Ergebnis einer gemeinsamen Anstrengung, die mehr als 50 akademische und industrielle Führungskräfte aus zahlreichen Institutionen zusammenbringt. Wir trafen uns beim Google Contextual Agent Privacy and Security (CAPS) Workshop, der Ende 2025 in New York City stattfand.
Die zentrale Herausforderung der agentischen KI besteht darin, dass ein Agent, um nützlich zu sein, möglicherweise Zugriff auf persönliche Daten und die Fähigkeit haben muss, in einer Vielzahl von Kontexten folgenreiche Aktionen durchzuführen. Dieser Zugriff zusammen mit der Verhaltensflexibilität der Agenten erfordert jedoch grundlegend andere Ansätze als die in traditioneller Software verwendeten. Im Gegensatz zu traditioneller deterministischer Software unterscheiden sich Agenten in drei kritischen Dimensionen: Unstrukturierte Schnittstellen und Eingabeambiguität, Probabilistische Kontrollflüsse sowie Autonomie und Delegation.
Angesichts der Tatsache, dass nützliche Agenten möglicherweise Daten teilen und Aufgaben erledigen müssen, glauben wir, dass die Zukunft vertrauenswürdiger Agenten von ihrer Fähigkeit abhängt, über die sozialen Normen und die Angemessenheit ihrer Handlungen zu reasoning, sie zu verstehen und durch sie eingeschränkt zu werden – für den spezifischen Kontext, in dem sie operieren. Unser Bericht basiert auf der Theorie der kontextuellen Integrität (CI), die Privatsphäre nicht nur als Geheimhaltung oder Kontrolle definiert, sondern als „angemessenen Informationsfluss“ gemäß etablierter und gerechtfertigter sozialer Normen. Beispielsweise sind Sie möglicherweise bereit, Ihre Geschenkeinkaufsliste mit einem virtuellen Einkaufsassistenten zu teilen, aber nicht mit Ihrer Familie und Freunden.
Quelle: Google AI Blog · Zusammengefasst von HeadlinesBriefing