Experten fordern Sicherheitsstandards
Experten aus Forschung, Wissenschaft und der Tech-Branche haben in einem offenen Brief eine Pause bei der Entwicklung von Künstlicher Intelligenz (KI) gefordert, um Sicherheitsstandards festzulegen und mögliche Schäden abzuwenden.
Risiken derzeit unkalkulierbar
Mehr als 1000 Menschen, darunter Apple-Mitgründer Steve Wozniak, Tech-Milliardär Elon Musk und Pioniere der KI-Entwicklung, haben den Brief unterzeichnet. Risiken seien derzeit unkalkulierbar und leistungsstarke KI-Systeme sollten erst dann entwickelt werden, wenn ihre Auswirkungen positiv und ihre Risiken überschaubar sind.
Generative KI wie ChatGPT-4 oder DALL-E sei mittlerweile so weit fortgeschritten, dass selbst die Entwickler ihre Programme nicht mehr verstehen oder wirksam kontrollieren könnten. Dadurch könnten Informationskanäle mit Propaganda und Unwahrheiten geflutet werden und Jobs wegrationalisiert werden.
Transparenz-Auflagen für Entwickler verschärfen
Die Forderung nach einer Entwicklungspause bezieht sich auf KI der nächsten Generation, die noch mächtiger sei als ChatGPT-4. Kritik an dem Aufruf kam von der Informatik-Professorin Johanna Börklund an der schwedischen Universität von Umeå, die stattdessen die Transparenz-Auflagen für Entwickler verschärft sehen will.
OpenAI-Chef Sam Altman hat den offenen Brief nicht unterschrieben. In Deutschland begrüßte der TÜV-Verband den offenen Brief und fordert eine klare gesetzliche Regulierung Künstlicher Intelligenz, insbesondere für sicherheitskritische Bereiche wie Medizin oder Fahrzeuge. Europol warnte bereits vor Risiken vor KI wie ChatGPT, da es ein nützliches Werkzeug für Phishing und Desinformationskampagnen sei und Kriminelle sich Schadsoftware schreiben lassen könnten.
Zusammengefasst durch ChatGPT
Originalartikel: https://www.tagesschau.de/wissen/musk-tech-pause-ki-entwicklung-101.html