Sicherheitsfunktionen für personalisierte Agenten

Personalisierte Agenten arbeiten mit ihren eigenen unabhängigen Berechtigungen, die von den individuellen Nutzerberechtigungen getrennt sind. Das bedeutet, dass alle, die einen Agenten verwenden können, über diesen auf Informationen zugreifen können, auf die sie nicht direkt zugreifen können. Die Sicherheitsfunktionen für personalisierte Agenten helfen dir, diesen Zugriff zu kontrollieren, um deine Daten zu schützen.

Allgemeine Notion KI-Sicherheitsverfahren findest du unter Notion KI-Sicherheits- und Datenschutzverfahren und So schützt Notion 3.0 vor Prompt-Injection-Risiken.

Personalisierte Agents verfügen über mehrere Schutzebenen, damit du keine vertraulichen Informationen weitergibst.

Workspace-Admins können personalisierte Agenten im gesamten Unternehmen über ein Agentenverzeichnis, Erstellungskontrollen, Inhaltssuche, Audit-Protokolle, KI-Analysen und Tools zur Eigentumsübertragung verwalten, um die Transparenz und Kontrolle über alle Agenten im Workspace zu behalten.

Du siehst eine klare Warnung, die erklärt, auf welche sensiblen Ressourcen der Agent zugreifen kann, und du wirst gebeten, zu bestätigen, dass du sie freigeben möchten. Dies umfasst Warnungen für:

• Private Notion-Seiten

• E-Mail- oder Kalenderdaten

• Integrationen von Drittanbietern

• Zugriff auf alle Seiten, die mit allen im Workspace geteilt werden

So verhinderst du unbeabsichtigte Datenfreigaben über Slack und andere verbundene Anwendungen von Drittanbietern:

• Für jeden personalisierten Agenten kann nur die Person, die eine Integration verbunden hat, weitere Slack-Kanäle hinzufügen oder den Zugriff erhöhen (z. B. von Nur lesen auf Lesen und Antworten).

• Nutzer/-innen mit Bearbeitungszugriff können Verbindungen von Drittanbietern entfernen, aber nicht erweitern, was die Verbindung sehen kann.

Um die Verbindungseinstellungen von Drittanbietern zu ändern, die nicht von einem Editor eingerichtet wurden, musst du die Integration entfernen und dann neu verbinden.

Personalisierte Agents verfügen über automatische Sicherheitsprüfungen, um zu verhindern, dass Agenten weiterhin auf Daten zugreifen, wenn Editors nicht über die richtigen Berechtigungen verfügen:

• Jede verknüpfte Ressource muss mindestens einen Agenten-Editor haben, der Zugriff auf diese Ressource hat

• Wenn alle Editor den Zugriff auf eine Ressource verlieren, wird der Agent nicht mehr ausgeführt.

Personalisierte Agenten tauchen im Teilen-Menü jeder Seite oder Datenbank auf, auf die sie Zugriff haben, genau wie normale Mitglieder.

• Du kannst sehen, welche Agenten Zugriff auf eine bestimmte Seite oder Datenbank haben.

• Zeigt deutlich an, welche Agenten deine Inhalte anzeigen oder bearbeiten können.

• Ermöglicht es dir, den Zugriff auf einen Blick zu überprüfen.

Um dies zu überprüfen, öffne eine Seite oder Datenbank, klicke auf Teilen und suche in der Liste nach personalisierten Agenten. Wenn du Vollzugriff auf die Seite oder Datenbank hast, wird ihre Berechtigungsstufe angezeigt und du kannst sie bei Bedarf entfernen.

Alle mit der Berechtigung Kann anzeigen und interagieren können die vollständige Einstellungsseite des Agenten im Nur-Anzeige-Modus sehen.

Was Nutzer/-innen sehen können:

• Anweisungen für den Agenten

• Auf welche Seiten und Datenbanken der Agent Zugriff hat.

• Verbundene Tools und Auslöser.

• Alle Konfigurationsdetails.

Workspace-Admins können personalisierte Agenten im gesamten Unternehmen über ein Agentenverzeichnis, Erstellungskontrollen, Inhaltssuche, Audit-Protokolle, KI-Analysen und Tools zur Eigentumsübertragung verwalten, um die Transparenz und Kontrolle über alle Agenten im Workspace zu behalten.

Personalisierte Agenten bitten um Bestätigung, bevor sie auf unerwartete externe Links zugreifen:

• Wenn ein Agent eine URL generiert, die nicht in deinem ursprünglichen Prompt enthalten war, wird er angehalten und um Bestätigung gebeten.

• Du erhältst eine Benachrichtigung, um die URL zu überprüfen und zu genehmigen, bevor der Agent fortfährt.

Wenn du mit der Notion-KI arbeitest, kannst du mithilfe der Modellauswahl das Modell auswählen, mit dem du arbeiten möchtest. Wenn du mit dem Mauszeiger über das Modell fährst, werden dir Details wie Geschwindigkeit, Intelligenz und Kosten angezeigt. Kleinere Modelle sind in der Regel schneller und kostengünstiger in der Anwendung, aber wir haben einen Warnhinweis eingefügt, dass sie „anfälliger für Prompt Injection sein können“.

Notion verfügt zwar über Sicherheitskontrollen, die zum Schutz vor Prompt Injection beitragen, aber auch die Wahl des Modells spielt eine Rolle. KI-Modelle unterscheiden sich in ihrer Größe hinsichtlich der Parameter (der internen, trainierbaren numerischen Werte, die die Funktionsweise der Modelle bestimmen). Je mehr Parameter ein Modell hat, desto besser ist es in der Regel bei der Bewältigung komplexer Aufgaben, einschließlich der Unterscheidung zwischen legitimen und bösartigen Anweisungen. Kleinere Modelle sind in der Regel anfälliger dafür, bösartige Anweisungen zu befolgen, was das Risiko erhöht, dass sie bei der Verarbeitung externer Inhalte unbeabsichtigte Aktionen ausführen.

Bei Workflows, die sensible Daten oder Inhalte aus externen oder nicht vertrauenswürdigen Quellen umfassen, wie z. B. hochgeladene Dateien, freigegebene Dokumente oder Webinhalte, solltest du die Wahl eines größeren Modells in Betracht ziehen. Unabhängig davon, welches Modell du verwendest, ist der sorgfältige Umgang mit nicht vertrauenswürdigen Inhalten eine der wirksamsten Maßnahmen, die du zum Schutz deiner Daten ergreifen kannst.