THE · FIN The Future Is Now.
THE FIN RESEARCH · Ausgabe #02Österreich · DACH

THE FIN RESEARCH – Mehr Auswahl, aber auch neue Prüfpflichten

Die Woche im Überblick

Diese Woche zeigt, wie KI tiefer in Suche, Smartphones, Schulen und automatisierte Arbeit einzieht. Die EU will mehr Wettbewerb auf Android ermöglichen, während neue Sicherheitstests deutlich machen, warum Zugang und Kontrolle gemeinsam gedacht werden müssen.

5 Minuten Lesezeit
Research-Archiv

Die Woche in 30 Sekunden

01

Die EU öffnet Android für konkurrierende KI-Assistenten

Was passiert ist

Die Europäische Kommission hat am 16. Juli zwei verbindliche Maßnahmen nach dem Digital Markets Act beschlossen. Google muss konkurrierenden KI-Diensten einen gleichwertigen Zugang zu wichtigen Android-Funktionen ermöglichen, die bisher vor allem Gemini nutzen kann. Zusätzlich sollen konkurrierende Suchmaschinen Zugang zu anonymisierten Suchdaten erhalten, die Google in großem Maßstab sammelt. Google warnt laut Associated Press vor möglichen Datenschutzrisiken durch Drittanbieter.

Warum das relevant ist

Für Menschen in der EU kann dadurch langfristig echte Auswahl auf Android-Geräten entstehen: Ein anderer Assistent könnte tiefer mit Apps und Gerätefunktionen arbeiten, statt nur als normale App daneben zu stehen. Für europäische Anbieter und KMU sinkt eine technische Markteintrittsbarriere. Die Änderung kommt aber nicht sofort und macht sorgfältige Berechtigungen wichtiger, weil mehr Assistenten auf sensible Gerätekontexte zugreifen könnten.

Was du jetzt tun solltest

Du musst heute nichts umstellen. Wenn neue Assistenten mit erweitertem Android-Zugriff verfügbar werden, prüfe nicht nur Funktionen und Preis, sondern jede angeforderte Berechtigung. Unternehmen sollten mobile KI-Dienste erst freigeben, wenn Datenzugriff, Protokollierung und Widerruf nachvollziehbar geregelt sind.

Quellen anzeigen
02

Googles KI-Suche fällt in einem Kindersicherheitstest durch

Was passiert ist

Das Youth AI Safety Institute von Common Sense Media hat am 15. Juli eine Risikobewertung der KI-Übersichten und des KI-Modus in Google Search veröffentlicht. Für den Test wurden mehr als 2.600 Suchanfragen mit Konten für 11- und 15-Jährige und aktiviertem SafeSearch durchgeführt. Die Prüfer berichten unter anderem von unzuverlässigen Antworten, problematischen Reaktionen auf Krisensignale und vollständig gelösten Hausaufgaben. Google erklärte gegenüber Axios, die Tests seien eng und künstlich angelegt und die Ergebnisse nicht reproduzierbar.

Warum das relevant ist

KI-Antworten in der Suche erreichen Kinder auch dann, wenn sie keinen eigenen Chatbot verwenden. Eltern und Schulen können diese Funktionen laut Bericht derzeit nicht gezielt abschalten. Der Test misst keine allgemeine Fehlerquote im Alltag, zeigt aber konkrete Schwachstellen bei Situationen, in denen falsche oder unangemessene Antworten besonders schwer wiegen.

Was du jetzt tun solltest

Behandle KI-Zusammenfassungen in Suchmaschinen nicht als geprüfte Quelle. Vereinbare mit Kindern, wichtige Gesundheits-, Sicherheits- und Lernfragen mit einer erwachsenen Person oder einer verlässlichen Fachquelle gegenzuprüfen. Schulen sollten Lehrkräfte und Eltern informieren und bei heiklen Recherchen direkte Quellen statt automatisch erzeugter Übersichten verlangen.

Quellen anzeigen
03

OpenAI lässt eine KI gezielt nach Schwachstellen suchen

Was passiert ist

OpenAI hat am 15. Juli GPT-Red vorgestellt, ein internes Modell für automatisierte Sicherheitstests. Es erzeugt Angriffe gegen andere KI-Systeme und verbessert seine Vorgehensweise durch wiederholte Versuche. In einem von OpenAI nachgebauten Test zu indirekten Prompt-Injections fand GPT-Red in 84 Prozent der Szenarien einen erfolgreichen Angriff; menschliche Testpersonen kamen auf 13 Prozent. Das System manipulierte in einem weiteren Versuch einen realen Verkaufsautomaten-Agenten. Die Zahlen stammen aus OpenAIs eigener Evaluation.

Warum das relevant ist

Sobald KI-Agenten E-Mails lesen, Dateien bearbeiten oder Bestellungen auslösen, können versteckte Anweisungen in fremden Inhalten zum Sicherheitsproblem werden. Automatisierte Angriffstests können mehr Varianten prüfen als kleine menschliche Teams. Sie ersetzen Menschen aber nicht: Laut MIT Technology Review hat GPT-Red noch Schwächen bei mehrstufigen Gesprächen und Bildangriffen, und unabhängige Fachleute bleiben für neuartige Risiken wichtig.

Was du jetzt tun solltest

Verlasse dich bei agentischen Abläufen nicht allein auf die Sicherheitsangaben des Modellanbieters. Begrenze Rechte, trenne Test- und Produktivdaten und verlange eine menschliche Freigabe vor Zahlungen, Löschungen oder externen Nachrichten. Frage Anbieter, ob sie indirekte Prompt-Injections praktisch testen und wie Vorfälle protokolliert werden.

Quellen anzeigen
04

Anthropic richtet Claude gezielt für Lehrkräfte ein

Was passiert ist

Anthropic hat am 14. Juli Claude for Teachers gestartet. Verifizierte Lehrkräfte an US-Schulen können ein Jahr lang kostenlos auf Premium-Funktionen, Unterrichtshilfen und eine Anbindung an Lehrpläne aller 50 Bundesstaaten zugreifen. Nach Angaben des Unternehmens werden Gespräche dieser Konten nicht zum Modelltraining verwendet; für Schulen und Bezirke ist ein eigenes Angebot erst angekündigt. Begleitend veröffentlicht Anthropic offene Unterrichtsbausteine und einen frei lizenzierten Kurs zur KI-Kompetenz.

Warum das relevant ist

Das Angebot ist derzeit nicht für Lehrkräfte in Österreich oder Deutschland verfügbar. Trotzdem zeigt es die nächste Phase des Wettbewerbs: Anbieter verkaufen nicht mehr nur allgemeine Chatbots, sondern vorkonfigurierte Arbeitsumgebungen für einzelne Berufe. Für Bildungseinrichtungen wird damit entscheidend, ob Datenschutz, Lehrplanbezug und pädagogische Wirkung tatsächlich geprüft sind und nicht nur in Produktversprechen stehen.

Was du jetzt tun solltest

Warte in der DACH-Region auf ein rechtlich und fachlich passendes Angebot. Nutze bis dahin keine sensiblen Schülerdaten in allgemeinen KI-Konten. Wenn deine Schule ein Werkzeug prüft, verlange einen Auftragsverarbeitungsvertrag, klare Löschfristen, ausgeschaltetes Modelltraining und einen kleinen pädagogisch begleiteten Test statt einer sofortigen breiten Einführung.

Quellen anzeigen

THE FIN Einordnung

Was diese Woche verbindet

Diese Woche geht es weniger um ein neues Spitzenmodell als um die Bedingungen, unter denen KI praktisch handeln darf. Die EU versucht, Zugang zu Betriebssystemen und Daten fairer zu verteilen. Gleichzeitig zeigen Sicherheits- und Bildungsthemen, dass mehr Zugang ohne klare Grenzen neue Risiken schafft. Für Nutzer und KMU lautet die gemeinsame Regel: Auswahl ist gut, aber Berechtigungen, Daten und kritische Entscheidungen brauchen weiterhin nachvollziehbare Kontrolle.

Zum Ausprobieren

Ein kurzer Berechtigungs-Check für KI-Werkzeuge

Liste für einen bereits genutzten KI-Dienst auf, welche Dateien, Apps und Konten er erreichen kann. Markiere danach jeden Zugriff als notwendig, optional oder zu weitgehend. Entferne nicht benötigte Verbindungen und dokumentiere, wer sensible Aktionen freigibt.

Direkt ansehen