La montée des «historiens artificiels»: l'IA en tant que gardien de dossier de l'humanité
En documentant et en enregistrant les données collectives de la Société à une échelle sans précédent, l'intelligence artificielle devient l'historienne de l'humanité – changant la façon dont nous enregistrons des informations pour la postérité.
Mais le rôle par inadvertance de l'IA en tant que gardien de mémoire soulève profondément les préoccupations pour les historiens d'aujourd'hui. Contrairement aux historiens humains qui documentent explicitement leurs méthodologies, les systèmes d'IA créent les archives historiques du futur sans transparence cruciale autour de la façon dont les sources sont sélectionnées, pondérées et interprétées.
Cela sape un principe fondamental de la bourse historique, que les méthodologies devraient être visibles et contestables. Dans le nouveau livre « Artificial Historiens », l'historienne Marnie Hughes-Warrington explore comment les systèmes d'IA transforment les enregistrements historiques.
L'auteur fait valoir que l'IA est déjà profondément impliquée dans la création d'histoire, générant «la plupart des histoires faites dans le monde» quotidiennement. Plutôt que de voir cela comme une menace, l'auteur encourage les historiens à le voir comme une opportunité de s'engager dans le développement de l'IA pour garantir que ces systèmes reflètent la complexité historique.
Histoire et compréhension nuancée
Hughes-Warrington présente les préoccupations concernant les biais dans la collecte de données, en particulier la «collecte inégale et injuste d'informations sur le passé». Lorsque les systèmes d'IA s'entraînent sur ces dossiers historiques biaisés, ils risquent d'amplifier et de perpétuer les inégalités historiques, cimentant potentiellement des récits problématiques pour les générations futures.
En plus de cela, certaines informations historiques peuvent tout simplement ne pas être calculables ou lisibles par les outils d'IA, donnant une image incomplète.
En plus des préoccupations concernant la collecte et la transparence des informations, Hughes-Warrington souligne que l'IA manque les nuances de la narration historique que les humains acceptent intrinsèquement.
Elle explique que les affirmations historiques faites par les universitaires et les historiens ne sont jamais pleinement ou parfaitement vraies mais sont « partiellement ancrées », ce qui signifie qu'ils se réfèrent à des preuves en dehors d'eux-mêmes et invitent les tests. Cette compréhension complexe des informations historiques, ou «vérités» historiques, présente un défi pour les systèmes d'IA formés pour fournir des réponses définitives.
Lorsqu'on leur a posé des questions sur les sujets de l'histoire du monde, les plateformes d'IA ont tendance à donner des réponses conventionnelles similaires qui présentent une vision limitée de l'histoire, démontrant que les systèmes d'IA n'ont pas la compréhension nuancée du contexte historique que les historiens humains développent à travers des années d'étude, suggère Hughes-Warrington.
« Les informations du passé peuvent ne pas être disponibles ou même calculables, ou présentées de manière à rendre l'utilisation ou la combinaison d'ensembles de données difficiles, voire impossibles », explique Hughes-Warrington.
« Les contextes de collecte de données peuvent également être ignorés. Si vous saviez que des informations avaient été collectées sur les personnes en détresse financière ou judiciaire, par exemple, l'utiliseriez-vous sans réfléchir à leurs expériences? Plus important encore, cependant, il peut y avoir une confiance excessive dans le développement d'algorithmes ou la détection de modèles. »
L'IA est là pour rester
« Cette évidence de l'histoire et de son absorption dans l'avenir, la fiction ou la géopolitique signifie que l'expertise historique nécessaire pour rendre l'IA plus efficace et juste est manquée. L'IA n'est pas une menace pour l'histoire si nous voyons l'invitation à être impliquée dans sa fabrication », explique-t-elle.
« En apportant une expertise historique au développement de l'IA, nous pouvons créer des historiens artificiels plus efficaces et plus équitables tout en préservant la pensée critique et la compréhension contextuelle qui définit une bourse historique de qualité. »
Le texte suggère finalement que la création d'histoire est un processus complexe et interprétatif qui ne peut pas être réduit à des algorithmes ou des règles simples. Hughes-Warrington défie les historiens et les technologues de l'IA pour réfléchir plus profondément à la façon dont nous définissons et créons l'histoire.
« Si l'histoire est le problème, alors l'histoire est aussi la solution », conclut Hughes-Warrington.
