Wer die Sicherheit eines Systems gewährleisten möchte, indem er seine Funktionsweise geheim hält, folgt in der IT-Sicherheit dem Prinzip „Security by obscurity“, zu Deutsch: Sicherheit durch Unklarheit. Die Formulierung macht schon klar, dass ihre Namensgeber von dem Prinzip wenig halten.
Die großen amerikanischen Entwickler Künstlicher Intelligenz (KI) folgen ihm dennoch. Die Architektur ihrer Modelle halten Open AI, Anthropic und Google streng geheim, ihre Trainingsdaten erst recht. Sie argumentieren, dass mehr Transparenz über die Funktionsweise ihrer KI gefährlich wäre, weil Akteure mit schlechten Absichten dann leichter Sicherheitsmaßnahmen ausschalten und die KI missbrauchen könnten.
Solche offenen Modelle haben den Vorteil, dass jeder mit dem nötigen Sachverstand nachvollziehen kann, wie sie programmiert wurden. Auch mögliche Sicherheitslücken können potentiell von den Millionen Entwicklern schneller erkannt werden, die sich weltweit im Bereich Open Source engagieren.
Es ist daher zu begrüßen, dass sich jetzt Nvidia mit 40 weiteren Technologieunternehmen zusammengeschlossen hat, um offene KI-Modelle für Cybersicherheitszwecke zu fördern. Mit dabei sind unter anderem Microsoft, IBM, SAP, Dell, Palantir sowie der von Elon Musk gelenkte Konzern SpaceXAI.
Anthropic, Google und Open AI haben sich nicht angeschlossen. Ihr Geschäftsmodell basiert darauf, den Zugang zu ihren geschlossenen Systemen zu verkaufen. Das ist ihr gutes Recht. Der KI-Angriff auf Hugging Face verdeutlicht aber, dass es offene Alternativen braucht. Auch damit lässt sich über Wartungsverträge und spezielle Unternehmenslizenzen gutes Geld verdienen.
