Am 5. Feb. erläuterte Amazons Cloud-Sparte eine etablierte mathematische Methode, mit der das Unternehmen die Zahl der Halluzinationen in generativer KI verringern will.
Amazon stellte nicht klar, ob die neue Methode auf Amazon.com eingesetzt werden soll. Stattdessen will das Unternehmen sie laut The Wall Street Journal nutzen, um mehr Kunden dazu zu bringen, den generativen KI-Angeboten von Amazon Web Services zu vertrauen.
Automatisiertes Schlussfolgern unterscheidet sich von der Schlussfolgerungsmethode, die bei Frontier-Modellen wie Gemini 2.0 zuletzt populär geworden ist. Während Schlussfolgern Prozesse verlangsamt, um gründlichere Antworten zu liefern, stützt sich Amazons automatisiertes Schlussfolgern auf mathematische Beweise, um sicherzustellen, dass die KI ein bestimmtes Ergebnis liefert.
Wie funktioniert automatisiertes Schlussfolgern?
Vereinfacht gesagt funktioniert automatisiertes Schlussfolgern, indem bestimmte Aussagen als unbestreitbare Wahrheiten definiert werden. Anschließend „überprüft“ es sie mithilfe logischer Schlussketten – in Amazons Beispiel etwa: „Wenn Katzen Säugetiere sind und Säugetiere an Land leben, leben Katzen an Land.“
AWS-Vizepräsident und Distinguished Scientist Byron Cook sagte gegenüber The Wall Street Journal , dass automatisiertes Schlussfolgern auf symbolischer KI basiert, einem Teilgebiet der Mathematik, das auf 2.000 Jahre alter Forschung beruht. Anders als die von vielen Machine-Learning- und generativen KI-Systemen verwendeten Vorhersagen ist symbolische KI regelbasiert. Amazon hat sich die relativ kleine Gruppe von Mathematikern, die auf diesem Gebiet versiert sind, nach und nach gesichert.
Amazon konnte mehr Kunden für sein Cloud-Geschäft gewinnen, indem das Unternehmen Automated Reasoning Checks einsetzte, ein aus mathematischen Beweisen des automatisierten Schlussfolgerns entwickeltes Tool. Das Unternehmen hofft, auf diese Weise auch CIOs für sich zu gewinnen, die möglicherweise kein Vertrauen in KI-generierte Antworten haben.
Automatisiertes Schlussfolgern wird bereits in AWS-Produkten eingesetzt, darunter CodeGuru Reviewer, die Network Reachability-Funktion von Inspector Classic, AWS IAM Access Analyzer, der Virtual Private Cloud Reachability Analyzer sowie das KI-Handbuch für Unternehmen Bedrock Guardrails. Wie Amazon veranschaulichte, könnten beispielsweise Elektronikentwickler automatisiertes Schlussfolgern nutzen, um Begriffe zu definieren und zu bestätigen, dass ein bestimmtes Hardwaredesign die Spezifikationen erfüllt.
Automatisiertes Schlussfolgern kann nicht alle Halluzinationen generativer KI beseitigen
Automatisiertes Schlussfolgern hat durchaus einige Einschränkungen. So kann es beispielsweise nicht für „Vorhersagen oder Verallgemeinerungen“ eingesetzt werden, wie Amazon weiter oben erklärte. Ein vollständig auf automatisiertem Schlussfolgern basierendes System wäre etwa nicht in der Lage, fälschlicherweise zu behaupten, dass „alle Säugetiere an Land leben“. Automatisiertes Schlussfolgern eignet sich am besten für Fälle, in denen die bereitgestellten Daten strikt definierten Regeln folgen, etwa wichtigen Unternehmensrichtlinien.
Automatisiertes Schlussfolgern ist nur eine Methode, um Halluzinationen generativer KI zu reduzieren; Retrieval-Augmented Generation bietet eine alternative Möglichkeit, KI-generierte Inhalte.