AI dringt über Online-Bilder in Computer ein? PC bewegt sich, ohne dass man klickt: Die wahre Natur der "bösartigen Pixel", die AI-Agenten täuschen

Eine Studie der Universität Oxford hat nachgewiesen, dass "für Menschen unsichtbare Befehle", die in Desktop-Hintergründe, SNS-Bilder, Werbung, PDFs und andere Medien eingebettet sind, in der Lage sind, KI-OS-Agenten zu übernehmen, die Bildschirme aufnehmen, und sie dazu bringen können, Web-Übergänge, Downloads und Informationsübertragungen auszuführen. Diese bösartigen Bild-Patches (MIP) wirken über Layouts und Modelle hinweg und sind resistent gegen Größenänderungen und Komprimierung. Obwohl bisher keine tatsächlichen Schäden gemeldet wurden, hat Trail of Bits mit einer alternativen Methode, bei der Befehle durch Downscaling-Verarbeitung offengelegt werden, gezeigt, dass Datenextraktion in realen Diensten möglich ist, was die Bedrohung real erscheinen lässt. Gegenmaßnahmen umfassen die vollständige Ablehnung von bildschirmbasierten Anweisungen, eine zweistufige Überprüfung gefährlicher APIs, Normalisierung und feste Dimensionierung vor der Eingabe, Sandbox-Implementierung und Robustheit durch inverses Lernen. Angesichts des bevorstehenden Zeitalters der weit verbreiteten Agenten ist eine Aktualisierung der Designprinzipien auf der Implementierungsseite dringend erforderlich.