Sicherheitsfunktionen für personalisierte Agenten

Custom Agents arbeiten mit eigenen, unabhängigen Berechtigungen, die von den individuellen Nutzerberechtigungen getrennt sind. Das bedeutet, dass jeder, der einen Agent verwenden kann, möglicherweise über ihn auf Informationen zugreifen kann, auf die er nicht direkt zugreifen könnte. Die Sicherheitsfunktionen für Custom Agents helfen dir, diesen Zugriff zu kontrollieren, um deine Daten zu schützen.

Allgemeine Notion KI-Sicherheitsverfahren findest du unter Notion KI-Sicherheits- und Datenschutzverfahren und So schützt Notion 3.0 vor Prompt-Injection-Risiken.

Personalisierte Agents verfügen über mehrere Schutzebenen, damit du keine vertraulichen Informationen weitergibst.

Workspace-Admins können personalisierte Agenten im gesamten Unternehmen über ein Agentenverzeichnis, Erstellungskontrollen, Inhaltssuche, Audit-Protokolle, KI-Analysen und Tools zur Eigentumsübertragung verwalten, um die Transparenz und Kontrolle über alle Agenten im Workspace zu behalten.

Du siehst eine klare Warnung, die erklärt, auf welche sensiblen Ressourcen der Agent zugreifen kann, und du wirst gebeten, zu bestätigen, dass du ihn teilen möchtest. Dies umfasst Warnungen für:

• Private Notion-Seiten

• E-Mail- oder Kalenderdaten

• Integrationen von Drittanbietern

• Zugriff auf alle Seiten, die mit allen im Workspace geteilt werden

So verhinderst du unbeabsichtigte Datenfreigaben über Slack und andere verbundene Anwendungen von Drittanbietern:

• Für jeden personalisierten Agenten kann nur die Person, die eine Integration verbunden hat, weitere Slack-Kanäle hinzufügen oder den Zugriff erhöhen (z. B. von Nur lesen auf Lesen und Antworten).

• Nutzer/-innen mit Bearbeitungszugriff können Verbindungen von Drittanbietern entfernen, aber nicht erweitern, was die Verbindung sehen kann.

Um die Verbindungseinstellungen von Drittanbietern zu ändern, die nicht von einem Editor eingerichtet wurden, musst du die Integration entfernen und dann neu verbinden.

Personalisierte Agents verfügen über automatische Sicherheitsprüfungen, um zu verhindern, dass Agenten weiterhin auf Daten zugreifen, wenn Editors nicht über die richtigen Berechtigungen verfügen:

• Jede verknüpfte Ressource muss mindestens einen Agenten-Editor haben, der Zugriff auf diese Ressource hat

• Wenn alle Editor den Zugriff auf eine Ressource verlieren, wird der Agent nicht mehr ausgeführt.

Personalisierte Agenten tauchen im Teilen-Menü jeder Seite oder Datenbank auf, auf die sie Zugriff haben, genau wie normale Mitglieder.

• Du kannst sehen, welche Agenten Zugriff auf eine bestimmte Seite oder Datenbank haben.

• Zeigt deutlich an, welche Agenten deine Inhalte anzeigen oder bearbeiten können.

• Ermöglicht es dir, den Zugriff auf einen Blick zu überprüfen.

Um dies zu überprüfen, öffne eine beliebige Seite oder Datenbank, klicke auf Teilen und suche in der Liste nach Custom Agents. Wenn du Vollzugriff auf die Seite oder Datenbank hast, siehst du deren Berechtigungsstufe und kannst sie bei Bedarf entfernen.

Alle mit der Berechtigung Kann anzeigen und interagieren können die vollständige Einstellungsseite des Agenten im Nur-Anzeige-Modus sehen.

Was Nutzer/-innen sehen können:

• Anweisungen für den Agenten

• Auf welche Seiten und Datenbanken der Agent Zugriff hat.

• Verbundene Tools und Auslöser.

• Alle Konfigurationsdetails.

Workspace-Admins können Custom Agents im gesamten Unternehmen mithilfe des Agent Directory, von Erstellungskontrollen, der Inhaltssuche, des Audit-Logs, von KI-Analysen und von Tools zur Besitzübertragung verwalten, um stets Übersicht und Kontrolle über alle Agenten im Workspace zu behalten. Admins können außerdem den Zugriff auf bestimmte KI-Modelle für Custom Agents steuern.

Personalisierte Agenten bitten um Bestätigung, bevor sie auf unerwartete externe Links zugreifen:

• Wenn ein Agent eine URL generiert, die nicht in deinem ursprünglichen Prompt enthalten war, wird er angehalten und um Bestätigung gebeten.

• Du erhältst eine Benachrichtigung, um die URL zu überprüfen und zu genehmigen, bevor der Agent fortfährt.

Wenn du mit Notion AI arbeitest, kannst du die Modellauswahl verwenden, um das Modell zu steuern, mit dem du arbeitest. Wenn du mit der Maus über das Modell fährst, siehst du Details wie Geschwindigkeit, Intelligenz und Kosten. Kleinere Modelle sind im Allgemeinen schneller und kostengünstiger in der Anwendung, aber wir haben eine Warnung hinzugefügt, dass sie „anfälliger für Prompt-Injection sein könnten“.

Während Notion Sicherheitskontrollen aufrechterhält, die zum Schutz vor prompt injection beitragen, spielt auch deine Modellwahl eine Rolle. KI-Modelle variieren in ihrer Größe hinsichtlich der Parameter (die internen, trainierbaren numerischen Werte, die bestimmen, wie die Modelle funktionieren). Je mehr Parameter ein Modell hat, desto besser schneidet es tendenziell bei komplexen Aufgaben ab, einschließlich der Unterscheidung zwischen legitimen und bösartigen Anweisungen. Kleinere Modelle neigen dazu, anfälliger für das Befolgen gegnerischer Anweisungen zu sein, was das Risiko erhöht, dass sie bei der Verarbeitung externer Inhalte unbeabsichtigte Aktionen ausführen.

Für Workflows, die sensible Daten oder Inhalte aus externen oder nicht vertrauenswürdigen Quellen beinhalten, wie z. B. hochgeladene Dateien, Geteilte Dokumente oder Webinhalte, solltest du die Auswahl eines größeren Modells in Betracht ziehen. Unabhängig davon, welches Modell du verwendest, ist der sorgfältige Umgang mit nicht vertrauenswürdigen Inhalten einer der effektivsten Schritte, die du zum Schutz deiner Daten unternehmen kannst.