Was ein Sportlehrer in den USA mithilfe von KI versucht hat, ist schon ein filmreifer Krimi. Er klonte die Stimme des Schuldirektors, der aufgrund rassistischer Beleidigungen seinen Job verlieren sollte. Der Sportlehrer kam ins Gefängnis, da der Stimmenklau aufflog.
Künstliche Intelligenz ist nicht nur in vielen Bereichen nützlich, sondern sie kann auch großen Schaden anrichten, wenn sie falsch eingesetzt wird. Ein Fall in den USA hat das bewiesen, als ein Sportlehrer KI genutzt und die Stimme des Schuldirektors geklont hat. Der Schuldirektor wurde fälschlicherweise suspendiert. Da der Betrug aufflog, konnte der Schuldirektor im Schuldienst bleiben, doch der Sportlehrer kam ins Gefängnis.
Sportlehrer arbeitete mit Stimmenklau mit KI auf Entlassung des Schuldirektors hin
Es mag im ersten Moment kurios erscheinen, wenn die Stimme des Schuldirektors mithilfe von KI geklont wird und der vermeintliche Schuldirektor sagt, was er nicht sagen darf. Im konkreten Fall hat ein Sportlehrer KI genutzt, um dem Schuldirektor rassistische Beschimpfungen vorzuwerfen und für dessen Entlassung zu sorgen. Der Sportlehrer wurde von der Polizei vom Baltimore County in Gewahrsam genommen.
Die Polizei geht lokalen Medien zufolge davon aus, dass es sich bei den rassistischen und antisemitischen Kommentaren des Direktors der Pikesville High School um eine Fälschung unter Anwendung von KI handelt. Bereits Anfang des Jahres machte diese Sprachaufzeichnung in verschiedenen sozialen Medien die Runde.
Angeblicher Stimmenklau von Experten bestätigt
Verschiedene Hinweise von Experten gegenüber der Polizei und dem Baltimore Banner bestätigen, dass es sich bei den Aufnahmen nicht um die echte Stimme des kurzzeitig suspendierten Schuldirektors handelt. Es gibt gleich mehrere Anzeichen, die für eine Fälschung sprechen:
- flacher Ton
- fehlende konsistente Atemgeräusche
- fehlende Pausen
- ungewöhnlich klare Hintergrundgeräusche
Schnell konnte der ehemalige Sportlehrer der Highschool aufgrund der Spur gefunden werden. Mit einem Schulcomputer soll er Medienberichten zufolge auf Microsoft-Bing-Chat-Dienste und OpenAI-Tools zugegriffen haben. Er wurde anhand einer E-Mail-Adresse und einer dazugehörigen Telefonnummer für einen Rückruf identifiziert. Das Online-Magazine The Verge berichtet nicht darüber, welche KI der Sportlehrer genutzt haben soll.
Sprachaufnahme zur Rache am Schuldirektor
Der Sportlehrer wurde von der Polizei am Flughafen festgenommen. In einer Erklärung teilte die Polizei mit, dass sich der Sportlehrer am Schuldirektor rächen wollte. Der Sportlehrer ist inzwischen nicht mehr an der Highschool tätig, da der Direktor gegen ihn schulinterne Ermittlungen durchführen ließ. Der Sportlehrer soll angeblich Schulgelder missbräuchlich verwendet haben.
Gegen Hinterlegung einer Kaution wurde der Sportlehrer inzwischen freigelassen. Vorgeworfen werden ihm:
- Diebstahl im Zusammenhang mit den Schulgeldern
- Vergeltungsmaßnahmen gegen einen Zeugen
- Stalking
- Störung des Schulbetriebs
Mit KI geklonte Stimmen auch schon im Wahlkampf genutzt
Der Fall an der Highschool ist nicht der einzige Missbrauch von KI zum Klonen von Stimmen. Auch in Wahlkämpfen wurden Stimmen mit KI gefälscht, um die politischen Gegner zu diffamieren. Kürzlich beschloss OpenAI die Zurückhaltung der Text-zu-Sprache-KI-Voice-Engine. Dieses Tool soll vorerst nur für bestimmte Forscher verfügbar sein. Um Stimmen zu klonen, benötigt dieses Tool nur eine Sprachaufnahme von 15 Sekunden.
Quellen: t3n, The Verge
