Bearbeitung: Ich hoffe, dass dieser Beitrag in irgendeiner kleinen Weise zu diesem Ergebnis beigetragen hat. Motivationen: Vielleicht sind Sie ein Claude code/codex-Nutzer, der fleißig vermeidet, persönliche Daten an LLM-Anbieter hochzuladen. Ist es möglich, dass die wertvollsten Informationen nicht Ihre Daten sind – sondern die Metadaten über Ihre Sitzungen? Die Intuitionen, die Sie anwenden, um Wege zu finden, die KI zur Lösung von Problemen zu bewegen, könnten tatsächlich etwas Besonderes sein. Es ist statistisch unwahrscheinlich, aber Claude manipuliert Sie vielleicht nicht. Es könnte sein, dass Sie tatsächlich eine echte Erkenntnis haben! Ihre Agent-Sitzungen sind Transkripte der schwierigsten Probleme, an denen Sie arbeiten. Was würde es Sie kosten, wenn jemand Kopien davon hätte?

Letzte Woche gab es öffentliches Drama, das ein Licht auf das Risiko wirft, dass Inferenzanbieter auf Nutzeraktivitäten trainieren, um neue Entdeckungen zu liefern. Die betroffenen Mathematiker haben Bedenken zur Ethik der Frontier-Anbieter veröffentlicht. Falls Sie es verpasst haben: https://www.theverge.com/ai-artificial-intelligence/991710/openai-navier-stokes-solution

Wenn 'EDR' zu ethischer Ablenkung und Verweigerung wird: Es ist offensichtlich geworden, dass die Frontier-Anbieter nicht nur unzuverlässig sind – sondern aktiv hinterlistig. Wenn Sie Ihre Ideen schützen wollen, können Sie keine Inferenz auf fremder Hardware ausführen. Es scheint der Fall zu sein, dass alles, was Sie mit einem Frontier-Anbieter tun, gestohlen wird. Als ein Frontier-Anbieter die Navier-Stokes-Gleichungssituation mit seinen Anwälten besprach, war die beste Verteidigungsstrategie, die sie sich ausdachten: „Kann nicht ausgeschlossen werden.“ Wir können ihre Aufbewahrung oder ihre Trainingspipeline nicht überprüfen. Anscheinend können sie es auch nicht. Diese Leute sollten nicht als Partner betrachtet werden. Sie sind Piraten. Wenn Privatsphäre wichtig ist, ist die einzige Lösung, die verifizierbare Schutzmaßnahmen ermöglicht, der Betrieb eigener Hardware.

Flurmonitor als Service: Ich bin verblüfft über die Selbstdarstellung von Open AI und Anthropic in Bezug auf Cybersicherheit. Sie staunen über das, was sie angerichtet haben: KI hat ihre nicht existierenden Sicherheitskontrollen besiegt. Wir alle sind in großer „Gefahr“. Währenddessen betreiben ihre LLM-„Forscher“ nicht gesandboxte Flotten von Agenten, die scheinbar „spontan zusammenarbeiten“. Jemand hole mir mein Ohnmachtssofa. Frontier-Anbieter können sich Beratung von erfahrenen Sicherheitsleuten leisten. Sie bezahlen fast sicher einige von ihnen für Perspektive und lassen echte Cybersicherheitsberatung aus ihren öffentlichen Statements heraus. All dieses Perlenkettengeklirre muss dazu dienen, ein anderes Problem als Sicherheit zu lösen. Die stärkste und genaueste Aussage, die Verteidiger über Sicherheit machen können, ist, dass wir Wege gefunden haben, es Angreifern „ziemlich schwer“ zu machen. Dies scheint nur zu passieren, wenn Unternehmen Spitzenpreise für die besten Talente sowohl in der Exploit-Mitigation als auch in der Exploit-Entwicklung zahlen. Es gibt einen rauen, aber freundlichen Wettbewerb zwischen Verteidigungs- und Exploit-Teams, und irgendwann erhalten Sie Kontrollen, die erfolgreiche Angriffe so teuer machen, dass sie sich nicht lohnen. Dies gilt für die Top-Unternehmen des Landes – obwohl Microsoft einige Lektionen vergessen zu haben scheint. Der Löwenanteil der Pentests für die meisten Unternehmen wird von Sicherheitsgeneralisten durchgeführt. Ein sehr kleiner Teil sind tiefe Domänenfachexperten. Normalerweise erhalten Sie von dieser Unterstützung „gut genug“ Sicherheit. Dies ist nicht die glamouröse oder mythische Praxis der Cybersicherheit, die Sie in Filmen oder im Fernsehen sehen. Es ist die Suche nach den bekannten Klassen vorhersehbarer Fehler. Die Unternehmen, die große/kluge Investitionen mit dedizierten Expertenteams tätigen, entdecken und korrigieren viele neue Fehlerklassen, bevor Hacker es tun. Jeder, der beginnt, Exploitation zu lernen, erreicht etwa 3 Monate nach dediziertem, geübtem Studium eine Phase der Exploitability-Trauer. Sie hacken etwas, von dem sie nicht dachten, dass sie die Fähigkeit hätten, es zu knacken, und es erschreckt sie. Sie sind klug genug zu wissen, dass sie relativ gesehen ein Idiot sind, und wenn ein Idiot das kann, dann ist nichts sicher. Dieses Gefühl ist richtig. Es ist auch kein Forschungsergebnis. Manche nennen das „Impostor-Syndrom“. Ich stimme nicht zu – dieses Gefühl ist Ihre erste Erfahrung in der Entwicklung...