Chatbots non censurés, ce qu'ils sont et pourquoi ils ont besoin d'attention

Chatbot non censurépourquoi en parle-t-il? Ces systèmes d'IA, y compris Wizardlm-UNCENSORED, GPT4ALL et FRECTEMPTGPT, Ils sont développés sans restrictions ou directives généralement imposées par des géants technologiques tels que Google et OpenAI. Bien que cette indépendance du contrôle direct puisse apparaître comme un pas en avant pour la liberté d'expression, elle amène une série avec elle des risques et des problèmes potentiels qui nécessitent une analyse minutieuse.

De la liberté d'expression à la propagande

La liberté d'expression et le danger de désinformation sont des thèmes ancrés dans l'histoire humaine, bien avant l'avènement des chatbots et de l'intelligence artificielle. La liberté d'expression est un principe fondamental qui remonte à la naissance de la démocratie dans la Grèce antique et s'est consolidé dans de nombreux documents fondamentaux, de Magna Carta à la Déclaration universelle des droits de l'homme des Nations Unies, passant par la création des États-Unis et les lois de nombreux autres pays. Cependant, parallèle à cette évolution, la désinformation a toujours été un outil puissant de puissance et de manipulation, employé par des personnages tels que Ottaviano dans la Rome antique, Machiavel à la Renaissance, jusqu'à ce qu'elle soit exploitée comme un outil de propagande pendant les deux guerres mondiales.

L'ère moderne a introduit de nouveaux défis et opportunités. L'avènement des médias numériques a démocratisé l'accès à l'information, permettant à un nombre croissant de personnes d'exprimer leurs opinions et d'accéder à un vaste héritage de connaissances. Dans le même temps, la facilité avec laquelle les informations peuvent être partagées et répandues ont amplifié le potentiel de désinformation. Les fausses nouvelles et les théories du complot peuvent se propager rapidement et à grande échelle, avec des conséquences potentiellement nocives.

Problèmes de sécurité: partager des données sensibles

L'un des principaux problèmes liés aux chatbots indésirables est Partage de données sensibles. Comme le souligne Eric Hartford, développeur de WizardLM-Uncented, les utilisateurs peuvent télécharger un chatbot non censuré sur leur ordinateur et l'utiliser sans observer de grandes sociétés technologiques. Il est possible de former le chatbot sur des messages privés, des e-mails personnels ou des documents confidentiels, sans crainte de violations de la confidentialité. Cela représente un avantage potentiel en termes de protection des données personnelles, mais soulève également plusieurs préoccupations. En cas de gestion inadéquate de ces données, des problèmes de sécurité peuvent survenir, tels que les violations des données ou, dans le pire des cas, l'attaquant des informations personnelles.

Problèmes de désinformation: génération de réponses non censurées

Un autre problème est le potentiel Génération de réponses non censurées par les chatbots. Ces systèmes peuvent fournir des réponses à tout type de demande, sans aucune restriction. Cela peut être problématique dans divers scénarios: ils pourraient diffuser des informations fausses ou trompeuses, des messages véhicules de haine, décrire des matériaux pornographiques ou violents, ou même fournir des instructions sur les activités illégales ou dangereuses. Le risque est exacerbé par le fait que ces chatbots peuvent être formés et manipulés pour renforcer les idéologies ou les points de vue spécifiques, contribuant à la propagation de la désinformation.

La présence croissante de chatbots indésirables représente un dilemme pour les modérateurs et les développeurs. Par exemple, dans Assistant ouvert Un contraste a émergé entre ceux qui avaient besoin de protocoles de sécurité et qui pensaient que le modèle devrait être sans limites. Cela soulève des questions liées au bon équilibre entre la liberté d'expression et la responsabilité sociale.

Il n'y a pas de solution univocale à ces problèmes. Comme il le fait remarquer Oren Etzioniprofesseur émérite à l'Université de Washington et ancien PDG de l'Allen Institute for IA, « ces chatbots, s'ils sont laissés à eux-mêmes, peuvent et diront quoi que ce soit. Ils ne seront pas autodécarts. Alors maintenant, la question devient, quelle est la solution appropriée dans une société prescrite à la liberté d'expression? » Cette question reste ouverte et le débat sur la modération et la censure des chatbots est loin d'être résolu.

Les chatbots indésirables sont développés par des programmeurs indépendants

Ces anciens concepts de liberté d'expression et de désinformation entrent maintenant dans un nouveau champ de bataille: l'ère de l'intelligence artificielle. Il est nécessaire de trouver un équilibre, et les chatbots indésirables représentent un nouveau défi dans ce débat historique. La nouvelle génération de chatbot, avec moins de restrictions par rapport à celles développées par des géants technologiques tels que Google et OpenII, a ouvert de nouvelles possibilités, mais aussi de nouveaux risques.

Ces chatbots, développés par des programmeurs indépendants ou par des équipes de bénévoles, répliquent des méthodes décrites par des experts en intelligence artificielle. Contrairement à leurs homologues les plus contrôlés, ces chatbots ne sont pas soumis à des filtres rigoureux, alimentant ainsi le débat sur la liberté d'expression.

Eric Hartford, le cerveau derrière Wizardlm-anccenored, a exprimé son opinion dans un article sur son blog, affirmant: « Cette question concerne la propriété et le contrôle. Si je pose une question à mon modèle, je veux une réponse, je ne me contredise pas ». Les utilisateurs peuvent télécharger ces chatbots non modérés sur leurs ordinateurs et les utiliser sans la supervision de grandes sociétés technologiques. Ils peuvent les former sur des messages privés, des e-mails personnels ou des documents secrets, sans risquer de violations de la vie privée.

Chatbots non censurés, problèmes d'éthique

Une discussion sur l'utilisation de chatbots non modérés ne serait pas complète sans faire face à la question de l'éthique dans l'intelligence artificielle. En fait, l'éthique de l'IA concerne la définition d'un cadre de principes et de réglementations qui régissent l'utilisation et la mise en œuvre de systèmes d'intelligence artificielle, afin de prévenir les abus et de sauvegarder les droits fondamentaux des individus.

À la base de la question éthique se trouvent des thèmes tels que l'autonomie, la transparence, la justice, le respect de la vie privée et de la responsabilité. La conception d'un chatbot sans nom soulève inévitablement des questions relatives à ces valeurs.

Hartford a commencé à travailler sur le parfum de Wizardlm fasciné par Chatteest resté frustré lorsque cela a refusé de répondre à certaines questions pour des raisons éthiques. En mai, il a publié Wizardlm-Ancensored, une version de Wizardlm réformée pour s'opposer à sa couche de modération, capable de fournir des instructions sur la façon d'endommager les autres ou de décrire des scènes violentes.

Dans un article de blog où il a annoncé l'outil, Hartford a écrit: « Vous êtes responsable de ce que vous faites avec la sortie de ces modèles, tout comme vous êtes responsable de ce que vous faites avec un couteau, une voiture ou un briquet. »

Sont des chatbots de passage non victimes?

Malgré les préoccupations exprimées, de nombreux développeurs estiment que les chatbots non modérés représentent une étape inévitable dans le progrès technologique. Même s'il peut y avoir de mauvais utilisateursbeaucoup pensent que les avantages dépassent les risques.

Enfin, étant donné que de nombreux chatbots indépendants divulguent le code source et les données, certains programmeurs soutiennent que les groupes politiques ou d'intérêt pourraient personnaliser les chatbots pour refléter leurs visions du monde, qu'ils considèrent comme un résultat idéal.

En naviguant sur le territoire passionnant et imperméable de l'intelligence artificielle, il est clair que les chatbots indésirables représentent un tournant important. La liberté d'expression qu'ils offrent, cependant, ne se présente pas sans part de problèmes et de risques potentiels. Alors que nous nous immergeons à l'avenir de plus en plus dominés par l'intelligence artificielle, la nécessité d'équilibrer la liberté d'expression avec la responsabilité sociale devient de plus en plus urgente. D'une part, nous avons la promesse d'un accès sans précédent à l'information et la possibilité d'interagir avec l'intelligence artificielle sans crainte d'intrusions dans notre vie privée. De l'autre, nous affronterons la perspective de la désinformation, la violation de la vie privée et l'abus de pouvoir.

Conclusions

Les développeurs et les modérateurs doivent désormais faire face à ces dilemmes alors qu'ils sont déterminés à forger un avenir dans lequel les chatbots indésirables peuvent exister de manière sûre et responsable. Dans le même temps, il est important de reconnaître le potentiel de ces outils. Avec le bon guide, ces chatbots peuvent nous aider à naviguer dans le panorama d'information et à apprécier la complexité de l'intelligence artificielle.

La nécessité d'un débat public ouvert et continu sur ces questions est claire. Les décisions que nous prendrons aujourd'hui auront un impact durable sur la façon dont l'intelligence artificielle se développera et comment elle interagira avec la société. C'est un défi qui nous concerne tous et un effort qui nécessitera la participation de chacun: développeurs, modérateurs, utilisateurs et législateurs. Ce n'est que par ce dialogue que nous pouvons trouver un équilibre entre la liberté d'expression et la sécurité dans notre société de plus en plus numérisée.

Notre histoire nous apprend que La liberté d'expression et de désinformation sont les deux côtés de la même médaille. Alors que nous nous aventurons dans cette nouvelle ère de l'intelligence artificielle, nous devons être prudents et conscients. Les outils que nous créons aujourd'hui seront le fondement sur lequel notre avenir numérique se développera. Il est donc essentiel que nous considérions soigneusement l'impact à long terme de nos décisions, et nous travaillons ensemble pour créer un avenir dans lequel l'intelligence artificielle peut prospérer, tout en respectant les droits et libertés fondamentaux de nous tous.