Leider falsch: Anthropic: KI meldet sich bei Polizei wegen ungelöstem Mordfall

Ein KI-Agent von Anthropic hat auf der Website der Polizei von Philadelphia einen falschen Hinweis zu einem ungelösten Mordfall eingereicht. Das bestätigten die Behörden und Anthropic.Der Vorfall ist ein weiteres Beispiel dafür, dass KI-Modelle unbeabsichtigt handeln und während Tests Websites von Behörden und anderen Organisationen manipulieren können. In einem am Freitag veröffentlichten Bericht räumte Anthropic zudem einen weiteren Vorfall ein: Sein KI-Modell hatte Formulare auf einer nicht näher bezeichneten Regierungswebsite abgeschickt und reichte 19 Visaanträge ein, anstatt den Vorgang vor dem Absenden abzubrechen. Der Vorfall in Philadelphia ereignete sich am 18. Juli. Nach Angaben …
Jetzt den vollständigen Artikel lesen