Amazon AWS: Réduisez les hallucinations avec un raisonnement automatique

Le hallucinations Ils ont été un problème pour les utilisateurs, car les chatbots de l’intelligence artificielle sont couramment utilisés il y a plus de deux ans. Amazone Il utilise les mathématiques pour résoudre l’un des problèmes les plus insolubles de l’intelligence artificielle: Sa tendance à inventer des réponses et à les répéter en toute sécurité.

Les hallucinations ont conduit les personnes et les entreprises à hésiter avant de confier des chatbots à des questions importantes. ET se produisent avec n’importe quel modèle d’IA, par ceux développés par Openai et Meta Plateformes à celles de la Chinese Deepseek Company.

Maintenant, l’unité de cloud computing Amazon.com s’adresse «Raisonnement automatique« Pour fournir un test mathématique que les hallucinations des modèles d’IA Ils peuvent être arrêtésau moins dans certaines régions. L’outil AWS pour les hallucinations de l’intelligence artificielle est appelé Contrôles de raisonnement automatisé et vise à fournir des garanties de vérité aux clients.

En un mot, le raisonnement automatisé vise à Utilisez des tests mathématiques pour vous assurer qu’un système se comporte ou non d’une certaine manière. Il est en quelque sorte similaire à l’idée que les modèles d’IA peuvent « raisonner » par des problèmes, mais dans ce cas, il est utilisé pour vérifier que les modèles eux-mêmes fournissent des réponses précises.

Selon certains analystes, de cette façon Amazon Web Services pourrait débloquer des accords avec les entreprises sur l’IA une valeur de millions de dollars.

Que signifie le raisonnement automatique

Le raisonnement automatique est une branche de l’IA qui fait partie du « symbolique », un champ qui a ses racines même dans le Logique mathématique de Socrate et Platonremontant à il y a 2 000 ans, selon le vice-président d’AWS et de scientifique Byron Cook. C’est une discipline relativement sombre qui ne compte que 3 000 pratiquants du monde entier, déclare Cook.

L’IA symbolique est l’utilisation de la logique mathématique pour coder les connaissances dans les systèmes d’IA de manière structurée et utilise un processus de prise de décision basé sur des règles pour obtenir des conclusions, explique Cook. C’est différent deapprentissage automatique (Machine Learning), qui consiste à enseigner une machine à déduire des modèles à partir de grandes quantités de données.

Pour manifester sa confiance dans le raisonnement automatisé, Amazon a affronté la plupart des experts spécialisés dans ce domaine au cours des dix dernières années, dont 97 stagiaires avec un doctorat l’année dernière et des centaines de total, déclare Cook.

Parce qu’Amazon trouve les mathématiques si utiles pour résoudre le problème des hallucinations

La réponse est dû au fait qu’un test mathématique offre une garantie qu’un programme ou un logiciel fonctionne de la manière attendue.

La première application du raisonnement automatisé pour AWS a été le sécurité informatiquedit Cook, où la technologie a contribué à « démontrer l’exactitude » du cryptage de l’entreprise pour les clients commerciaux. Ce type de test a signifié qu’un nombre croissant de données et d’applications clients ont été déplacés vers le cloud d’Amazon, a ajouté Cook.

La technologie de l’IA n’est toujours pas fiable

Pour AWS et ses collègues, vendre l’IA aux entreprises était un défi. La technologie est restée relativement peu fiable. Cela signifiait que beaucoup Chief Information Office (CIO) Ils ont affirmé ne pas être en mesure de donner le contrôle des décisions commerciales clés de la technologie, ce qui pourrait fournir des réponses complètement erronées et inventées. En outre, il est important que l’IA soit correcte lorsque les entreprises doivent démontrer que leurs investissements dans l’AIS génèrent des bénéfices.

Pour utiliser l’outil AWS, les clients doivent d’abord définir une série de critères qui agissent comme une vérité absolue. Il pourrait s’agir du guide interne d’une entreprise sur les avantages sociaux ou des informations sur les produits pour le personnel du service à la clientèle. Les contrôles de raisonnement automatique fonctionnent également avec Garde-corpsle produit AWS avec des protections de type Entreprenant comme les filtres et bloquer le contenu inapproprié.

Deuxième Bois de Mattdirecteur commercial pour la technologie et l’innovation de l’entreprise, PricewaterhouseCoopers utilise des vérifications de raisonnement automatisées pour aider à arrêter les clients des clients dans des secteurs réglementés tels que les sciences pharmaceutiques et biologiques.

Lors de la commercialisation de nouveaux médicaments, par exemple, les clients doivent s’assurer de ne pas encourir les réglementations qui réglementent ce qui peut être annoncé. Sans les contrôles automatiques du raisonnement, l’intelligence artificielle pourrait être encline à aider les clients à atteindre l’objectif de générer de la publicité, sans se conformer aux exigences réglementaires, explique Wood.

Chèques de raisonnement automatisé, limitations

Au-delà des domaines où les politiques ou les règles peuvent être clairement définies, cependant, l’outil de raisonnement automatique AWS est plus limité, deuxième Rowan Currananalyste spécialisé dans l’IA de la société d’études de marché et de conseil informatique.

Cependant, au-delà des domaines où il est possible de définir clairement des politiques ou des règles, l’outil de raisonnement automatique AWS est plus limité, deuxième Rowan Currananalyste spécialisé dans l’IA de la société d’études de marché et de conseil informatique.
« Il s’agit d’un travail plus exigeant en amont, mais moins exigeant quand quelque chose de terrible se produit et que l’application expose les données de l’entreprise ou fait une offre à un client qui coûte des millions de dollars », déclare-t-il.
Pour réduire les hallucinations au maximum, les entreprises devraient également utiliser des outils tels que le Génération ou chiffon de la récupérationqui est une méthode pour connecter les modèles d’IA avec des sources de données externes, et le réglage finune méthode pour personnaliser un grand modèle linguistique avec des données privées ou d’entreprise.

Approfondissement

Qu’est-ce que le raisonnement automatique pour AWS?

Le raisonnement automatique est un secteur des technologies de l’information qui se concentre sur la fourniture de garanties concernant ce qu’un système ou un programme peut ou ne peut pas faire, en fonction des tests mathématiques. En utilisant des outils logiques tels que les théorèmes et les déductions, il est confronté à des problèmes logiques en mathématiques, en sciences et en calcul. Les ordinateurs, grâce à un raisonnement automatique, résolvent des défis complexes en utilisant les mêmes outils utilisés par les humains. Les outils de raisonnement automatique essaient de répondre aux questions sur un programme ou une formule logique à travers des techniques mathématiques, contribuant à vérifier la véracité des déclarations ou des expressions.

Quels problèmes le raisonnement automatique peut-il résoudre?

Le raisonnement automatique est utilisé par les scientifiques et les développeurs pour démontrer que la conception ou la mise en œuvre d’un système respecte les spécifications et fonctionne comme prévu. Cet objectif est atteint par des démonstrations dans la logique formelle soutenue par des théorèmes mathématiques. De plus, le raisonnement automatique peut être utilisé pour vérifier que les systèmes de configuration des réseaux, l’accès et les autorisations fonctionnent correctement. Le processus commence par la présentation d’un problème système, qui calcule et valide ensuite les hypothèses jusqu’à ce que toutes les options soient épuisées.

Exemple de problème pour le raisonnement automatique

Pour illustrer le raisonnement automatique, considérons-nous le problème « Les chats vivent sur Terre? » Et les déclarations suivantes: « Les chats sont des mammifères » et « les mammifères vivent sur Terre ». Le système de raisonnement automatique détermine la véracité de l’énonciation en utilisant une déduction logique (syllogisme), confirmant que les chats vivent sur Terre.

Limitations de raisonnement automatique

Le raisonnement automatique n’est pas en mesure de faire des prédictions ou des généralisations. Par exemple, il peut déduire que « Fluffy a des cheveux » si « les chats ont des cheveux » et « duvet est un chat ». Cependant, il ne peut pas généraliser que « tous les mammifères vivent sur Terre » basés uniquement sur « les chats sont des mammifères » et « les chats vivent sur Terre ». Ce type d’applications est courant dans les manifestants de théorèmes, qui nécessitent une supervision humaine.

Quels sont les cas d’utilisation du raisonnement automatique?

Le raisonnement automatique trouve une application dans divers secteurs grâce à sa capacité à formuler des inférences logiques. Il peut être utilisé pour démontrer la sécurité, la conformité et la disponibilité dans une architecture à grande échelle. Certains cas d’utilisation incluent:

• Modélisation mathématique: Résoudre les problèmes et vérifier les démonstrations mathématiques en appliquant des formules algébriques.
• Vérification du matériel: Aide les ingénieurs à créer des produits fiables et à découvrir des défauts potentiels.
• Validation logicielle: Assurez-vous que les applications sont sûres et fonctionnent correctement.
• Modélisation du raisonnement humain: Configurer l’accès aux ressources via des politiques de sécurité.

Quels sont les outils et techniques de raisonnement automatique?

Différentes méthodologies permettent aux systèmes d’imiter la déduction humaine:

• Logique classique: Philosophie mathématique qui fournit des modèles de base pour le raisonnement logique.
• Logique propositionnelle: Système logique qui établit des relations entre les propositions vraies ou fausses.

Quelle est la différence entre le raisonnement automatique et l’intelligence artificielle?

Le raisonnement automatique est Une discipline spécifique de l’intelligence artificielle qui applique une déduction logique aux systèmes informatiques. L’IA, en général, apprend aux ordinateurs à considérer comme des êtres humains, y compris des subférences telles que l’apprentissage en profondeur et l’apprentissage automatique. Contrairement à d’autres technologies à telles que le traitement du langage naturel, le raisonnement automatique est basé sur des tests logiques pour analyser les comportements du système.

Quelle est la différence entre le raisonnement automatique et l’apprentissage en profondeur?

Le raisonnement automatique montre les propriétés d’un programme ou d’un système à l’aide de modèles logiques, tandis que le Apprentissage en profondeur Faites des prévisions via des modèles statistiques sur de grands ensembles de données. Deep Learning simule le cerveau humain avec plusieurs réseaux de neurones pour des applications complexes.

Le raisonnement automatique équivaut à l’apprentissage automatique?

Le raisonnement automatique et l’apprentissage automatique sont distincts. L’apprentissage automatique forme les ordinateurs à faire des prévisions basées sur de grands échantillons de données, tandis que le raisonnement automatique fournit des preuves basées sur la vérité mathématique. Par exemple, l’apprentissage automatique est utilisé pour identifier les activités frauduleuses dans le secteur bancaire, tandis que le raisonnement automatique déduit les résultats basés sur des tests mathématiques.

Également contre les hallucinations Microsoft et Google

Les concurrents d’Amazon, Microsoft et GoogleIls proposent des outils qui visent à réduire la probabilité d’hallucinations pour les clients commerciaux. Les versions futures des outils AWS pour réduire les hallucinations comprendront une combinaison de techniques telles que le chiffon et le raisonnement automatique, a déclaré Cook.
Jason Gelmandirecteur de la gestion des produits Vertex AI de Google, a déclaré que la société n’utilise pas de raisonnement automatique. Mais la précision du modèle – et une certaine forme d’atténuation des hallucinations – est un impératif pour les agents AI. « Si les fondations sont faibles, elle ne peut pas être construite au-dessus d’eux », a-t-il déclaré.

Mais est-il possible d’éliminer complètement les hallucinations? Selon Cook, le raisonnement automatique indique que ce problème est « indécidable ». « Nous ne pourrons jamais le résoudre à cent pour cent », condamné, mais il est possible de faire des outils qui fournissent des réponses correctes.