Des chercheurs construisent un système d’IA pour identifier les violations des normes sociales
Scores de compétence pour les différents types de situation. Crédit: Rapports scientifiques (2023). DOI : 10.1038/s41598-023-35350-x
Un chercheur de l’Université Ben Gourion du Néguev a conçu un système d’IA qui identifie les violations des normes sociales. Le projet est l’un des premiers à s’attaquer à l’identification automatique des violations des normes sociales. Alors que de nombreuses normes sociales existent dans le monde, la violation des normes sociales se résume à quelques catégories générales.
Le professeur Yair Neuman et son ingénieur Yochai Cohen ont construit le système en utilisant GPT-3, la classification de texte à tir zéro et la découverte automatique de règles. Le système utilisait un binaire de dix émotions sociales comme catégories.
La DARPA a commandé le programme Computational Cultural Understanding (CCU) pour créer des technologies interculturelles de compréhension du langage afin d’améliorer la connaissance de la situation et l’efficacité interactionnelle d’un opérateur du ministère de la Défense. Une mauvaise communication interculturelle non seulement fait dérailler les négociations, mais peut également être un facteur contributif menant à la guerre, selon l’explication de la DARPA sur la justification du programme.
Leurs conclusions ont été publiées récemment dans Rapports scientifiques.
Le professeur Neuman et son ingénieur ont entraîné le système à identifier dix émotions sociales : compétence, politesse, confiance, discipline, attention, amabilité, réussite, conformité, décence et loyauté. Le système a réussi à caractériser une situation écrite sous l’un de ces dix classificateurs et a pu percevoir si elle était positive ou négative.
Le système a été testé sur deux ensembles de données massifs de textes courts et a prouvé empiriquement la validité des modèles.
« Il s’agit d’un travail préliminaire, mais il fournit des preuves solides que notre approche est correcte et peut être étendue pour inclure davantage de normes sociales », déclare le professeur Yair Neuman.
Le professeur Neuman est à la tête du Functor Lab du département des sciences cognitives et cérébrales de la BGU.
