KI-Update kompakt: KI-Aufsichtsbehörde, OpenAI DevDay, Anthropic, Pilzesammeln

Google, Anthropic und OpenAI treiben den Aufbau einer selbst organisierten Aufsicht für KI-Systeme voran. Laut Insiderberichten von The Information soll sie „Standards Authority for Frontier AI“ heißen, kurz SAFA. Sie soll festlegen, wann Entwickler Sicherheitsvorfälle melden müssen. Außerdem soll sie unabhängige Prüfer unterstützen, deren Qualifikationen bestimmen und die Selbstverpflichtungen der Firmen konkret machen. Offen ist, ob SAFA auch selbst Modelle prüft. Die Firmen begründen den Schritt damit, dass der Staat nicht regulieren wolle. Das stimmt jedoch nur halb: Kalifornien, wo die meisten KI-Riesen sitzen, befürwortet Regeln ausdrücklich, plant eine eigene Aufsichtsbehörde und beansprucht Teile dieser Aufgaben für sich. Für den Chefposten sind laut dem Bericht zwei Namen im Gespräch: Sriram Krishnan, früherer Risikokapitalgeber und KI-Berater der Trump-Regierung; und Arati Prabhakar, die unter Biden das Büro für Wissenschafts- und Technologiepolitik im…