«No Robo Bosses Act» de Californie avance, visant l'IA sur le lieu de travail
Une entreprise offre aux employeurs de la région de la baie d'intelligence artificielle qui filtre les embauches potentielles en peignant 10 000 sources en ligne publiques à la recherche de références à la violence ou aux drogues illégales. Une autre utilise la technologie pour scanner les e-mails du bureau des travailleurs pour des signes d'insatisfaction ou d'épuisement professionnel. D'autres offrent une analyse d'IA de chaque action en ligne des travailleurs sur le lieu de travail.
Comme l'intelligence artificielle donne de nouveaux outils puissants aux employeurs qui cherchent à rationaliser l'embauche et à surveiller les travailleurs, un projet de loi progresse à travers l'Assemblée législative de Californie pour lutter contre les craintes que la technologie ne peut injustement refuser aux emplois et promotions des travailleurs ou entraîner des sanctions et des licenciements.
La « loi sur les bosses Robo » – le projet de loi 7 – consiste à imposer une prise de décision humaine sur certaines technologies de l'automation du lieu de travail. Présenté par le sénateur de l'État Jerry McNerney, un démocrate de Pleasanton, il a adopté le Sénat de l'État lors d'un vote de 27-10 plus tôt ce mois-ci.
« En ce qui concerne la vie des gens et leur carrière, vous ne voulez pas que ces systèmes de prise de décision automatisés fonctionnent sans aucune surveillance », a déclaré McNerney.
S'il est adopté, le SB 7 empêcherait les employeurs de s'appuyer « principalement » sur le logiciel de prise de décision automatisé pour la promotion, la discipline ou le licenciement des employés. Toute décision automatisée devrait être examinée par une personne qui doit enquêter et « compiler les informations corroborantes ou à l'appui de la décision », a déclaré le projet de loi.
Le projet de loi, qui se rend au comité du travail et de l'emploi de l'Assemblée de l'État le 25 juin, interdirait également l'utilisation des produits par les employeurs qui visent à prédire le comportement des travailleurs, les croyances, les intentions, la personnalité, les états psychologiques ou émotionnels ou d'autres caractéristiques.
En mars, le bureau de McNerney a publié un communiqué de presse avec un lien vers une liste d'entreprises vendant prétendument la technologie de gestion du lieu de travail « Bossware ». Certaines entreprises proposent des produits qui pourraient violer les dispositions du projet de loi, en particulier l'interdiction des logiciels qui dédonnent les états mentaux des travailleurs. D'autres, comme la société Bay Area Braintrust, vendent des logiciels qui automatisent les processus d'embauche, que la version originale de la facture aurait interdite.
« Avec des progrès dramatiques récents dans les capacités des systèmes d'IA, la nécessité de cadres réglementaires pour la responsabilité et le développement et le déploiement responsables est devenu de plus en plus urgent », a déclaré une analyse du comité judiciaire du Sénat de l'État.
Une entreprise d'IA sur la liste, Veriato de la Floride, commercialise la capacité de son produit à analyser les e-mails des travailleurs pour « détecter les signes d'insatisfaction ou d'épuisement professionnel » et « a localisé les travailleurs mécontents et les risques de sécurité possibles ». Un autre sur la liste, Cogito de Boston, vante son « émotion AI et Conversation Ai » qui analyse les voix des travailleurs du centre pour donner à leurs superviseurs « la visibilité dans les conversations en direct avec leurs équipes ».
Veriato et la société mère de Cogito, Verint, n'ont pas répondu aux questions sur leurs produits et le projet de loi.
Les autres offres des centaines d'entreprises sur la liste comprennent le suivi des yeux, l'enregistrement et l'analyse des actions en ligne des travailleurs sur le lieu de travail, de la messagerie texte et de l'utilisation des applications à la navigation Web.
La disposition pour interdire le recrutement entièrement automatisé a été supprimée par le Comité judiciaire du Sénat, avec le consentement de McNerney, a indiqué l'analyse du comité. La Chambre de commerce de Californie, dirigeant une coalition opposée au projet de loi, s'était opposée à l'inclusion d'embauche, soutenant que seules les plus petites entreprises auraient pu se conformer à cette disposition. Les employeurs devraient informer les candidats s'ils utilisent la prise de décision automatisée dans l'embauche.
La Calchamber, dans une lettre représentant la coalition, a fait valoir que bon nombre des exigences du projet de loi sont « onéreuses et peu pratiques ». La coalition comprend la California Retailers Association, la California Grocers Association et TechNet, qui parle pour Apple, Cisco, Google, HP, Meta, Openai, Salesforce, Tesla, Uber et Waymo.
Les faux pas « conduiraient à des litiges coûteux, même pour les plus petits employeurs », et le projet de loi ne tient pas compte des avantages de la prise de décision automatisée, a indiqué la lettre du 12 mai. Les groupes ont également assailli l'interdiction totale de l'utilisation du logiciel pour prédire les comportements, affirmant que les institutions financières utilisent une telle technologie pour évaluer le risque de fraude et d'autres crimes.
Avec l'embauche exclue du projet de loi, des technologies telles que les entretiens vidéo autonomes de la société de San Francisco AI ont connu des embauches potentielles, qui produisent « des tableaux de bord détaillés ainsi que des résultats de réussite / échec », resterait légal.
La « solution de l'intelligence artificielle » de Los Angeles AI est également légale de la société de «intelligence artificielle» de la société AI pour filtrer les embauches potentielles en peignant 10 000 sources en ligne publiques, y compris les médias sociaux et les blogs, pour les drapeaux rouges tels que «un langage violent», les insultes », le langage suggestif » ou la promotion de la consommation de mariana.
BrainTrust et Fama n'a pas répondu aux questions sur leurs produits et le projet de loi.
La loi serait appliquée par le commissaire du travail de l'État, et les procureurs et les travailleurs pourraient déposer des poursuites civiles pour des violations réclamées. Les employeurs seraient condamnés à une amende de 500 $ pour toute violation.
Lorsqu'on lui a demandé comment les employeurs pouvaient être empêchés de simplement faire des décisions de fabrication de machines en caoutchouc, McNerney a déclaré: « Il y aura toujours un potentiel d'abus sur le lieu de travail – avoir un être humain dans la boucle donne une sorte de protection. »
Pendant ce temps, au niveau national, le projet de loi de financement républicain vise à limiter les réglementations de l'État sur l'IA. La version de la maison imposerait une interdiction de 10 ans à une telle réglementation. La version du Sénat refuserait les fonds fédéraux de l'IA-infrastructure des États qui régulent la technologie au cours de la prochaine décennie.
Le conseiller technologique du président Donald Trump, le capital-risqueur milliardaire de la Silicon Valley, David Sacks, a soutenu le moratoire comme la «bonne position de petite position». L'alternative, a déclaré Sacks dans un article sur X, « est un patchwork de 50 régimes de réglementation différents motivés par le dooérisme de l'IA. »
Plus de deux douzaines de membres du Congrès californiennes se sont révélés en opposition à l'interdiction de 10 ans, affirmant dans une lettre du 5 juin aux sénateurs américains que « les États-Unis doivent prendre l'initiative de l'identification et de la mise en place de garde-corps de bon sens pour le développement et le déploiement de l'IA en toute sécurité » et empêcher les États de réglementer l'IA « n'est pas cohérent avec l'objectif de l'objectif de l'IA ».
