WhatsApp führt eine KI-Schreibhilfe ein, die Nachrichten umformuliert. Doch Sicherheitsexperten fanden gravierende Lücken beim Datenschutz. WhatsApp hat eine KI-gestützte Schreibhilfe namens "Writing Help" veröffentlicht, die Nutzern beim Formulieren ihrer Nachrichten helfen soll. Das teilen die Entwickler des Dienstes in einem Blogeintrag mit. Die Funktion schlägt alternative Formulierungen in verschiedenen Stilrichtungen vor – von professionell bis humorvoll. Zwei unabhängige Sicherheitsaudits deckten jedoch erhebliche Schwachstellen in der dafür entwickelten Datenschutz-Architektur auf. Die neue Technologie namens "Private Processing" hatte der Mutterkonzern Meta entwickelt, um die Verarbeitung privater Nachrichten zu ermöglichen, ohne dabei auf deren Inhalte zugreifen zu können. Nach Angaben des Unternehmens soll niemand die verarbeiteten Texte einsehen können – nicht einmal Mitarbeiter von Meta. Datenschutz durch neue Technologie versprochen Das System funktioniert in drei Schritten: Zunächst werden die Nutzeranfragen über einen externen Zwischendienst geleitet, um die Identität zu verschleiern. Anschließend analysiert die KI die Nachrichten in einem besonders geschützten Bereich der Server. Zuletzt werden die Texte sofort nach der Bearbeitung wieder gelöscht. Zum eigenen Schutz: KI-Chatbot kann problematische Gespräche einfach beenden Interne Richtlinien: Meta erlaubte Chatbots romantische Gespräche mit Kindern Wie das IT-Magazin "heise online" berichtet, beauftragte Meta zwei verschiedene Dienstleister mit unabhängigen Prüfungen, um die Sicherheit zu überprüfen. Die nun veröffentlichten Berichte listen 49 Schwachstellen auf. Beide Sicherheitsteams fanden zahlreiche kritische Designfehler. Beide Firmen fanden heraus, dass die für die Anonymisierung nötigen Schlüsselkonfigurationen anfangs direkt von Meta-Servern an die Clients ausgeliefert wurden. Dies hätte es Meta ermöglicht, die Anonymität gezielt aufzuheben und Anfragen einzelnen Nutzern zuzuordnen. Zudem existierten keine Mechanismen zur Überprüfung der Aktualität der verwendeten Software. Sicherheit der Funktion beruht auf Vertrauen Nach Angaben der Auditoren hat Meta die meisten kritischen Schwachstellen vor dem Start der Funktion behoben. Beide Berichte kommen jedoch zu einem ähnlichen Schluss: Trotz der ausgeklügelten Technik hänge die Sicherheit von "Private Processing" letztlich von Vertrauensannahmen ab, heißt es. Nutzer müssten demnach darauf vertrauen, dass Meta nicht heimlich mit externen Technik-Dienstleistern kooperiert oder versteckte Zugänge in die Software einbaut. Die neue Schreibhilfe wird über ein Stift-Symbol direkt im Chatfenster erreichbar sein. Die Nutzung ist optional und standardmäßig deaktiviert. Zum Start wird die Funktion zunächst in englischer Sprache in den USA und weiteren ausgewählten Ländern eingeführt. Eine Ausweitung auf zusätzliche Sprachen und Regionen plant Meta noch in diesem Jahr.
4 std vor
