Kürzlich einigte sich das Unternehmen „Roboteranwalt“ DoNotPay mit der US-amerikanischen Federal Trade Commission (FTC) auf die Zahlung einer Geldstrafe von 193.000 US-Dollar. Diese Maßnahme ist Teil der „AI-Compliance-Aktion“ der FTC gegen Unternehmen, die KI-Dienste nutzen, um Verbraucher zu täuschen.
Bildquelle: Das Bild wurde mit KI generiert und stammt von Midjourney.
Die FTC erklärte in einer Mitteilung, dass DoNotPay behauptet, die 200-Milliarden-Dollar-Rechtsbranche mit künstlicher Intelligenz zu ersetzen, und sogar behauptet, sein „Roboteranwalt“ könne Rechtsdokumente erstellen, die das Fachwissen menschlicher Anwälte vollständig ersetzen. Die FTC erklärte jedoch, dass DoNotPay diese Behauptungen ohne jegliche unterstützende Tests aufgestellt hat.
Die Beschwerde besagt, dass die Technologie von DoNotPay nicht umfassend und aktuell mit bundesstaatlichen und staatlichen Gesetzen, Vorschriften und Gerichtsentscheidungen geschult wurde und auch nicht getestet wurde, wie diese Gesetze auf konkrete Sachverhalte anzuwenden sind. Noch wichtiger ist, dass die Mitarbeiter von DoNotPay die Qualität und Genauigkeit der von ihren rechtsrelevanten Funktionen erstellten Rechtsdokumente und -empfehlungen nicht getestet haben. Darüber hinaus hat DoNotPay keine Anwälte angestellt oder Anwälte mit einschlägiger juristischer Expertise konsultiert, um die Qualität und Genauigkeit seiner Dienstleistungen zu überprüfen.
Die Beschwerde erwähnt auch, dass DoNotPay Verbrauchern mitteilte, dass sie über seinen KI-Dienst Rechtsverletzungen verfolgen könnten, ohne einen menschlichen Anwalt zu beauftragen, und dass der Dienst anhand der E-Mail-Adresse des Verbrauchers feststellen könne, ob eine kleine Website gegen Gesetze verstößt. Das Unternehmen behauptete, dass die Nutzung seines Dienstes Unternehmen bis zu 125.000 US-Dollar an Rechtskosten sparen könne, aber die FTC erklärte, dass der Dienst nicht effektiv sei.
Im Rahmen des Vergleichs erklärte sich DoNotPay bereit, eine Geldstrafe von 193.000 US-Dollar zu zahlen und die Verbraucher in den Jahren 2021 bis 2023 über die Einschränkungen der rechtsrelevanten Produkte des Unternehmens zu informieren. Darüber hinaus wird DoNotPay nicht mehr behaupten, dass seine Dienstleistungen ohne Beweise professionelle Dienstleistungen ersetzen können.
Neben der Bestrafung von DoNotPay hat die FTC auch gegen andere Unternehmen vorgegangen, die KI-Dienste verwendet haben, um Kunden in die Irre zu führen. Dazu gehört der KI-Schreibassistent Rytr, von dem die FTC angibt, dass er Benutzern Tools zur Erstellung gefälschter KI-generierter Bewertungen zur Verfügung stellt. Die FTC hat kürzlich eine endgültige Regelung bekannt gegeben, die es allen Unternehmen verbietet, gefälschte Bewertungen zu erstellen oder zu verkaufen, einschließlich KI-generierter Bewertungen.
Schließlich hat die FTC auch eine Klage gegen Ascend Ecom eingereicht und das Unternehmen beschuldigt, Verbraucher um mindestens 25 Millionen US-Dollar betrogen zu haben, indem es versprach, dass Benutzer über sein KI-Tool Online-Shops auf Plattformen wie Amazon eröffnen und ein erhebliches monatliches Einkommen erzielen könnten.
Wichtigste Punkte:
- 🤖 DoNotPay muss 193.000 US-Dollar Strafe zahlen, da es keine Beweise für die Wirksamkeit seines Roboteranwaltsdienstes liefern konnte.
- ⚖️ Die FTC verstärkt die Aufsicht über Unternehmen, die KI einsetzen, um Verbraucher zu betrügen; andere Unternehmen wie Rytr wurden ebenfalls bestraft.
- 💰 Ascend Ecom wird beschuldigt, Verbraucher um 25 Millionen US-Dollar betrogen zu haben, indem es hohe Einnahmen durch ein KI-Tool versprach.