Microsoft Copilot liest E-Mails, die er nicht lesen sollte

News

Wer E-Mails mit besonders schützenswertem Inhalt verfasst, kann mit einer Kennzeichnung dafür sorgen, dass Microsofts KI-Assistent Copilot nicht auf die Nachrichten zugreift – theoretisch. In der Praxis sorgte jüngst ein Bug dafür, dass Copilot eben doch in den Nachrichten stöberte.

(Source: MR / stock.adobe.com)

Microsofts KI-Assistent Copilot hält sich offenbar nicht immer an die Zügel, die man ihm anlegt. Tech-Konzern Microsoft bestätigt einen entsprechenden Fehler, über den "Bleping Computer" berichtete. Demnach griff Copilot eine Zeit lang offenbar auf E-Mails zu, auf die er nicht hätte zugreifen dürfen.

Laut der von "Bleeping Computer" zitierten Microsoft-Stellungnahme betraf der Programmfehler Mails in den Ordnern "Entwürfe" und "Gesendet" des Programms Outlook Desktop. In diesen Ordnern können User und Systemadmins mithilfe einer Kennzeichnung (Label) und Richtlinien zur Verhinderung von Datenverlusten - sogenannter Data Loss Prevention (DLP) Policies - die Nachrichten mit besonders schützenswerten Inhalten markieren. Copilot sollte die so gekennzeichneten Nachrichten ignorieren.

Stattdessen aber habe es passieren können, dass Copilot die Kennzeichnung zum Ignorieren ignorierte, auf die Nachrichten zugriff und deren Inhalt in der Copilot-Chat-Oberfläche für den User ausgab, schreibt Microsoft in der Stellungnahme. "Dadurch erhielt niemand Zugriff auf Informationen, für die er nicht bereits autorisiert war", fügt das Unternehmen hinzu. Inzwischen gab Microsoft bekannt, die Ursache des Problems gefunden und für die meisten Umgebungen behoben zu haben.

Lesen Sie auch: Mit der Reprompt-Angriffsmethode können Cyberkriminelle in Microsoft-Copilot-Sitzungen von Usern eindringen. Die Angreifenden können Daten stehlen und bösartige Befehle ausführen, auch nach dem Schliessen des Copilot-Fensters durch das Opfer. Microsoft hat die Schwachstelle inzwischen behoben.

Wenn Sie mehr zu Cybercrime und Cybersecurity lesen möchten, melden Sie sich hier für den Newsletter von Swisscybersecurity.net an. Auf dem Portal lesen Sie täglich News über aktuelle Bedrohungen und neue Abwehrstrategien.