Les chercheurs discutent de la synergie entre les champs

Une revue explore le rôle de l’IA dans l’ingénierie, évaluant les avantages et les défis de la synergie entre les deux domaines. Un concours DARPA 2004 a opposé les véhicules AI les uns aux autres dans une course sur 150 miles de chemins de terre. Le véhicule le plus performant a fait moins de huit milles du chemin. L’année suivante, cinq véhicules ont terminé un parcours de 132 milles et aujourd’hui les taxis sans conducteur sont actifs dans plusieurs grandes villes.

Les amateurs ont suggéré que l’IA pourrait améliorer le transport et la fabrication, la médecine, les biens de consommation et la technologie militaire. Rama Chellappa, Guru Madhavan, Ed Schlesinger et John Anderson évaluent ces affirmations dans un NEXUS PNAS Article en explorant plusieurs études de cas, notamment des voitures et des avions autonomes, une chirurgie assistée par l’IA, une anesthésiologie en boucle fermée guidée par l’IA, une IA et une robotique, et une découverte assistée par l’IA de nouveaux matériaux.

Parmi les questions que les auteurs soulèvent: les véhicules de l’IA devraient-ils être entièrement autonomes si davantage d’accidents se produisent lorsque les humains contrôlent? Qui sera laissé pour les IA referme l’économie mondiale?

Les auteurs discutent des faiblesses des modèles basés sur les données, tels que le décalage du domaine, le manque de robustesse aux attaques adversaires, les biais dans la prise de décision et le manque d’explication – ainsi que les questions de sécurité, de confidentialité, de biais et d’autres problèmes éthiques et de gouvernance.

Alors que nous entrons dans une ère de machines qui peuvent sentir, apprendre et prendre des décisions sans supervision humaine, les auteurs appellent à la recherche sur des cadres réglementaires appropriés pour répondre aux questions de sécurité, de responsabilité et de gouvernance des systèmes d’IA conçus.

Fourni par PNAS Nexus