Im Moment bekommt man eher ein ungutes Gefühl dabei, KI-Modelle bzw. KI-Agenten in die eigene Arbeitsumgebung zu integrieren und ihnen Vollzugriff auf wichtige Dateien zu gewähren. Auch der jüngste Fall von OpenAI, bei dem ein Modell aus seiner sicheren Umgebung "ausgebrochen" ist, zeigt deutlich: Ein striktes Opt-In – also dass der Benutzer explizit die Erlaubnis erteilen muss, bevor eine KI Daten einsehen darf – wäre eine feine Sache. Doch die großen Tech-Konzerne rollen derzeit ohne Rücksicht auf Verluste (aber mit viel PR-Trubel) ungefragt KI-Funktionen aus.
Aus Sicht der IT-Sicherheit gibt es paradoxerweise dennoch handfeste Vorteile, die solche Modelle mit sich bringen: Viele seit Jahrzehnten bestehende Sicherheitslöcher und Bugs (Programmfehler) wurden dank KI-Analysen überhaupt erst gefunden und mehr oder weniger schnell beseitigt.
Hier zeigt sich auch wieder der große Vorteil von Open Source: Treten Fehler auf, können sie in der Community rasant behoben werden, weil jeder Einblick in den "Bauplan" (den Quellcode) hat. Bei großen Softwareanbietern mit geschlossenen Systemen (Closed Source) bleibt dies extrem schwierig. Hier muss man als Nutzer blind darauf vertrauen, dass der Anbieter unbekannte Sicherheitslöcher (sogenannte Zero-Day-Exploits) rechtzeitig schließt.
Es bleibt spannend und zugleich erschreckend, in welchem rasanten Tempo sich der technologische Fortschritt derzeit bewegt.