Amazon Bedrock: So gelingt der Einstieg!

Wie Unternehmen mit Hilfe von Anthropic Claude ihre Serviceanfragen schneller bearbeiten, Dokumente gezielter auswerten und internes Wissen besser zugänglich machen können.

Das Serviceteam eines Unternehmens möchte Kundenanfragen künftig schneller beantworten. Die IT will bestehende Anwendungen um KI ergänzen. Der Fachbereich sucht einen besseren Zugang zu internem Wissen. Für jede dieser Anforderungen und Vorhaben kann mit Hilfe von Amazon Bedrock die technische Grundlage geschaffen werden. Doch damit aus einer anfänglichen Idee am Ende auch eine verlässlich nutzbare Anwendung wird, sollten Unternehmen bereits beim Einstieg genau klären: Welche Daten sollen eingesetzt, welche Personen sollen Zugriff erhalten und wie sollen Qualität und Kosten bewertet werden?

Was ist Amazon Bedrock?

Amazon Bedrock ist ein vollständig verwalteter AWS-Dienst für die Entwicklung generativer KI-Anwendungen. Er stellt Modelle verschiedener Anbieter bereit, wozu unter anderem auch Claude von Anthropic zählt. Unternehmen können diese Modelle über entsprechende Programmierschnittstellen (engl. Application Programming Interface - API) in eigene Anwendungen einbinden. Die zugrunde liegende Modellinfrastruktur müssen Unternehmen dabei nicht selbst betreiben.

Wie spielen Amazon Bedrock und Claude zusammen?

Die Aufgaben sind klar verteilt: Claude verarbeitet beispielsweise Texte und erzeugt Antworten, während Amazon Bedrock den Zugang zu den Modellen und weitere Funktionen für ihre Nutzung innerhalb von AWS bereitstellt. Die eigentliche Unternehmensanwendung verbindet beide Bausteine mit einer individuellen Benutzeroberfläche, geeigneten Datenquellen und den gewünschten Arbeitsabläufen.

Ein Serviceassistent benötigt deshalb mehr als nur einen Modellzugang. So muss die Anwendung zum Beispiel festlegen, welche Produktinformationen verwendet werden, wer sie sehen darf und wann ein Mensch die Antwort prüft. Amazon Bedrock erleichtert die technische Bereitstellung, während die fachlichen Regeln und die Integration fester Bestandteil der Umsetzung bleiben.

Bei welchen Aufgaben im Unternehmen kann Claude unterstützen?

Claude kann nicht nur Texte zusammenfassen und Antworten liefern. Das Large Language Model (LLM) von Anthropic kann aber auch Inhalte analysieren und bei der Softwareentwicklung unterstützen. Inwiefern sich das für die Unterstützung bestimmter Prozesse lohnt, lässt sich am besten mit repräsentativen Aufgaben prüfen.

Für einen ersten Test bieten sich bspw. folgende Szenarien an: 

  • Kundenservice: Aus einer Anfrage und freigegebenen Produktinformationen entsteht ein Antwortentwurf, den Mitarbeitende prüfen und dann absenden.
  • Dokumentenverarbeitung: Das Modell fasst längere Unterlagen zusammen und bereitet relevante Angaben für die weitere Bearbeitung auf.
  • Wissensmanagement: Beschäftigte erhalten auf fachliche Anfragen passende Antworten auf Basis ausgewählter Handbücher oder Prozessbeschreibungen.

Für die interne Wissenssuche lässt sich Retrieval Augmented Generation – kurz RAG – nutzen. Dabei werden zur Frage passende Inhalte aus angebundenen Quellen abgerufen und dem Modell als Kontext bereitgestellt. Amazon Bedrock Knowledge Bases unterstützt diesen Ansatz und kann entsprechende Quellenverweise in die erstellten Antworten mit aufnehmen. Gute Ergebnisse setzen aktuelle und vor allem geeignete Dokumente sowie eine fachliche Prüfung voraus. Denn auch mit konkretem Quellenbezug können die gelieferten Antworten durchaus fehlerhaft sein.

5 Schritte für einen optimalen Einstieg mit Amazon Bedrock

Für einen überschaubaren Start mit Amazon Bedrock empfiehlt sich ein klar abgegrenzter Anwendungsfall, denn so lassen sich die technischen Voraussetzungen gezielt prüfen und der mögliche Nutzen belastbar bewerten. Die folgenden Schritte können Ihnen dabei helfen, die Einführung von Amazon Bedrock gemeinsam mit Ihrer IT-Abteilung und den einzelnen Fachbereichen optimal vorzubereiten.

Schritt 1: Einen messbaren Anwendungsfall auswählen.

Beschreiben Sie die Aufgabe möglichst konkret. Bei einer Serviceanwendung könnte das Ziel lauten, die Bearbeitungszeit für eine bestimmte Kategorie von Anfragen zu verkürzen. Legen Sie fest, woran Sie brauchbare Ergebnisse erkennen: etwa an der fachlichen Richtigkeit, dem Aufwand für Nachbearbeitung und der Zeit bis zur fertigen Antwort. Ein Test-Datensatz mit typischen und schwierigen Fällen macht den Vergleich besser nachvollziehbar. 

Schritt 2: Modell und Region auf die Aufgabe abstimmen.

Vergleichen Sie passende Modelle anhand derselben Aufgaben. Berücksichtigen Sie Antwortqualität, Geschwindigkeit und Kosten. Prüfen Sie außerdem, in welchen Regionen das gewünschte Modell verfügbar ist und wie Anfragen verarbeitet werden. Bei regionsübergreifender Inferenz (engl. Cross-Region Inference) kann Amazon Bedrock Anfragen über mehrere AWS-Regionen verteilen. Geografisch begrenzte Profile und globale Profile unterscheiden sich dabei hinsichtlich der möglichen Verarbeitungsorte. Diese Auswahl gehört in die Architekturentscheidung. 

Schritt 3: Zugriff und Datenverwendung festlegen.

Definieren Sie, welche Anwendungen und Personen auf welche Modelle zugreifen dürfen. Prüfen Sie die dafür erforderlichen IAM-Berechtigungen und die zu erfüllenden Voraussetzungen für den gewählten Modellzugang. Je nach Modell und Zugangsart können entsprechende AWS-Marketplace-Berechtigungen oder zusätzliche Angaben zum Anwendungsfall benötigt werden. 

Legen Sie zugleich fest, welche Daten in Anfragen, angebundenen Wissensquellen und Protokollen enthalten sein dürfen. Laut AWS haben Modellanbieter keinen Zugriff auf die Bereitstellungskonten bei Amazon Bedrock und damit auch nicht auf Prompts und Modellantworten der Kunden. Die Konfiguration der eigenen Zugriffe und Sicherheitsmaßnahmen bleibt Aufgabe des Unternehmens. 

Schritt 4: Kosten und Betrieb von Beginn an berücksichtigen.

Die Kosten hängen unter anderem vom Modell und der Nutzungsart ab. Hinzu kommen gegebenenfalls weitere Funktionen und AWS-Dienste, etwa für Wissensquellen oder die Anwendung selbst. Bewerten Sie deshalb die Kosten pro bearbeitetem Vorgang. Lange Dokumente, umfangreiche Gesprächsverläufe und wiederholte Modellaufrufe sollten im Test realistisch abgebildet werden. Richten Sie Budgetwarnungen ein und vereinbaren Sie Verantwortlichkeiten für den laufenden Betrieb. 

Schritt 5: Ergebnisse gemeinsam mit dem Fachbereich bewerten.

Lassen Sie die künftigen Anwender die Ergebnisse unter realistischen Bedingungen prüfen. Halten Sie fest, welche Antworten übernommen werden können und wo Korrekturen notwendig sind. Für den nächsten Schritt sollten fachliche Qualität, zulässige Datenverwendung und wirtschaftlicher Nutzen nachvollziehbar sein. Ebenso wichtig ist ein klarer Ablauf für Fälle, in denen die Anwendung keine brauchbare Antwort liefern kann. 

Vom ersten Test zur produktiven Anwendung

Nach einem erfolgreichen Pilotprojekt stehen meist weitere Aufgaben an: Die Anwendung braucht passende Schnittstellen, ein durchgängiges Berechtigungskonzept und einen geregelten Umgang mit Änderungen. Verantwortliche müssen frühzeitig erkennen können, wenn Antwortqualität, Verfügbarkeit oder Kosten von den Erwartungen abweichen.

Hilfreich ist ein wiederverwendbarer Satz von Testfällen. Damit lässt sich vor Änderungen an Modell, Prompts oder Wissensquellen prüfen, ob die Anwendung weiterhin die vereinbarten Anforderungen erfüllt. So wird aus dem ersten Versuch eine Grundlage für den verlässlichen und vor allem kontinuierlichen Einsatz im Arbeitsalltag. 

So gelingt der reibungslose Einstieg auf Amazon Bedrock

Mit unserem AWS Anthropic Onboarding begleiten wir den Einstieg in Amazon Bedrock sowohl technisch als auch organisatorisch und kaufmännisch. Dazu zählen die Abstimmung von AWS-Konto und Region, die Modellauswahl sowie die Einrichtung aller benötigten Berechtigungen. Auch Abrechnung, Kostenkontrollen, Logging und Monitoring werden berücksichtigt. Ein im Rahmen des Onboardings vereinbarter Billing Transfer berücksichtigt betrifft lediglich die Abrechnung. Bestehende Workloads müssen dafür nicht migriert werden. 

Möchten auch Sie Claude über Amazon Bedrock nutzen und mehr über die vielfältigen Möglichkeiten von AWS erfahren, um den reibungslosen Einstieg für Ihre Anwalts- oder Steuerkanzlei bzw. Ihr Versicherungsunternehmen vorzubereiten? Dann sprechen Sie mit uns über Ihren individuellen Anwendungsfall, die mitgebrachten Voraussetzungen in Ihrer AWS-Umgebung und ein auf Ihre Anforderungen hin optimal zugeschnittenes AWS Anthropic Onboarding. 

Fazit und Ausblick: Verwalteter Zugang zu generativer KI für Anwalts- und Steuerkanzleien sowie Versicherungen

Amazon Bedrock bietet Unternehmen jeder Branche einen verwalteten Zugang zu generativer KI. Gerade für Berufsgeheimnisträger wie Anwalts- und Steuerkanzleien sowie Versicherungen können dabei ganz besonders von den mitgebrachten Vorteilen profitieren, um bspw. Anthropics Claude in eigene Anwendungen und Prozesse gezielt mit einzubinden.

Denn insbesondere mit Blick auf die zu erfüllenden, gesetzlichen Pflichten (§ 203 StGB, § 43e BRAO, § 62a StBerG) beim Einsatz externer Dienstleister müssen diese vorab klären, welche vertraglichen und organisatorischen Anforderungen beim Einsatz von Cloud-Diensten gelten. Mit einem entsprechenden EU-Profil bleibt zumindest die Verarbeitung innerhalb der EU, während bei globalen Profilen die über Claude gestellten Anfragen auch in Regionen außerhalb der EU verarbeitet werden können.

Die oben beschriebenen Szenarien zeigen, wie sich Servicearbeit, Dokumentenverarbeitung und interne Wissenssuche unterstützen lassen. Belastbar wird der Nutzen aber immer erst dann, wenn eine konkrete Aufgabe vorab unter realistischen Bedingungen geprüft wird.

Für den Einstieg lohnt sich deshalb ein klar begrenzter Anwendungsfall mit messbaren Zielen. Werden Datenquellen, Berechtigungen und Betrieb von Anfang an berücksichtigt, entsteht eine Grundlage für die schrittweise Weiterentwicklung. Welche weiteren Aufgaben sich darauf aufbauend erschließen lassen, sollte sich an den Ergebnissen dieses ersten Einsatzes orientieren.

Autor: Jan Gruner

Jan Gruner
Solution Sales Manager DAP ATVANTAGE GmbH

Mit uns arbeiten

Sie suchen einen Partner, der nicht nur berät, sondern mit Ihnen gemeinsam gestaltet? Ob Strategie, Technologie oder Umsetzung – wir unterstützen Sie entlang der gesamten digitalen Wertschöpfungskette. Lernen Sie unsere Leistungen kennen und finden Sie genau den Einstieg, der zu Ihren Zielen passt.

Bei uns arbeiten

Du willst nicht nur abwarten, was als nächstes passiert, sondern es mitgestalten? Dann bist du bei uns genau richtig. Wir suchen Menschen mit Haltung, Leidenschaft und Lust auf Wirkung – Entwickler:innen, Strateg:innen, Consultants und Kreative, die mit uns digitale Lösungen vorantreiben möchten.