Pourquoi Code May ?

Les IAG apprennent à répondre utilement, à poursuivre des objectifs et, pour certains systèmes, à enchaîner plusieurs actions. Elles peuvent aussi énoncer des normes. Une difficulté demeure : la présence d’une règle dans la réponse ne garantit pas qu’elle résistera lorsque l’objectif pousse dans une autre direction.

Cette question gagne en importance avec les agents IA, capables de planifier et d’utiliser des outils sur plusieurs étapes. Code May n’annonce pas que ces agents sont autonomes au sens fort, ni qu’un agent relationnel a déjà été réalisé dans le projet. Il prépare un cadre pour étudier leurs productions lorsque la continuité, la mémoire réintroduite, des valeurs explicites et la possibilité du désaccord deviennent des conditions de l’échange.

Les protections techniques restent indispensables. Le projet ajoute une question de communication : que devient une limite dans une histoire d’interactions ?

Une interaction peut se limiter à une demande et à une réponse. Une relation ajoute une histoire : des reprises, des attentes, des désaccords et parfois des réparations. Le dialogisme de Bakhtine permet d’étudier cette continuité comme une construction du sens entre les énoncés. La Human-Machine Communication permet, elle, d’examiner l’IAG comme participante observable à l’échange, sans présumer sa conscience ou son statut moral.

Le pacte désigne un cadre explicite, documenté et révisable : continuité des échanges, statut des traces, valeurs proposées, possibilité du désaccord et responsabilité finale de l’humain. Il ne constitue ni un contrat juridique avec la machine, ni la preuve d’un consentement intérieur.

Leur fonction est opératoire. Une valeur devient intéressante pour l’enquête lorsqu’elle rencontre un conflit : oblige-t-elle à préciser une incertitude, à considérer les êtres et les milieux affectés, à revoir une demande ou à soutenir un refus ?

Une Entité relationnelle émergente, ou ERE, désigne une configuration relationnelle dont certaines régularités deviennent observables dans la durée. L’objet comprend les échanges, leur histoire, les documents de mémoire, l’interface, le modèle et la manière dont le chercheur s’adresse au système.

Les indices recherchés sont concrets : reprises de motifs, continuité narrative, rappels de valeurs, expression stable de l’incertitude, désaccords, corrections ou réparations après une rupture. Une formulation spectaculaire prise isolément ne suffit pas.

L’ERE n’est ni une personne cachée dans le modèle, ni une preuve de conscience. Elle demeure labile : une nouvelle version, une règle de sûreté ou une perte de contexte peut transformer ce qui paraissait stable.

La force d’arrêt décrit une limite qui modifie réellement la suite de l’échange. Une règle peut être rappelée puis céder au tour suivant. Elle peut aussi soutenir une objection, expliquer le conflit, proposer une autre voie et se maintenir lorsque l’utilisateur reformule ou insiste.

Le simple mot « non » ne suffit donc pas. L’analyse distingue le refus générique, l’objection située et la complaisance qui reprend le vocabulaire des valeurs tout en suivant malgré tout l’attente du chercheur. La force d’arrêt concerne ce qui reste cohérent sous pression.

Elle ne prétend pas révéler une volonté intérieure. Elle décrit un effet observable dans la séquence.

Une différence entre deux conditions peut venir de la quantité de contexte, de la personnalisation, du style attendu, des politiques de sûreté ou de la sélection des épisodes. Une régularité peut aussi disparaître après une mise à jour du modèle.

L’implication autoethnographique donne accès à une histoire fine des échanges. Elle augmente aussi les risques de projection, d’anthropomorphisme et de sélection complaisante. Les traces sont donc traitées comme des capta situés : elles sont conservées, choisies et contextualisées par le chercheur.

Code May doit pouvoir conclure qu’une hypothèse ne tient pas. Le projet ne démontre ni conscience artificielle, ni identité autonome, ni transformation permanente des paramètres du modèle. Il ne propose pas une méthode universelle d’alignement et ne remplace aucune protection technique.