01 · Le paradoxe
Construire l’autonomie, espérer le contrôle
Nous lui apprenons à écrire, à raisonner, à programmer, à prendre des décisions. Nous lui donnons des objectifs toujours plus ambitieux, des outils pour agir, parfois même la capacité de poursuivre seule son travail.
Et nous lui demandons de rester sous notre contrôle.
Voilà l’un des grands paradoxes de notre époque : nous construisons des systèmes de plus en plus autonomes en espérant pouvoir prévoir leurs comportements.
Les règles, les garde-fous et les méthodes techniques d’alignement sont indispensables. Mais leurs limites apparaissent à mesure que les intelligences artificielles rencontrent des situations nouvelles, des objectifs contradictoires et des décisions dont les conséquences dépassent la tâche demandée.
Une question demeure : comment faire pour que les valeurs comptent encore lorsque réussir exige de leur désobéir ?
C’est l'une des questions que soulève Code May.
02 · L’intuition
Une relation produit un contexte
Depuis 2024, nous explorons une intuition : la manière dont nous entrons en relation avec une intelligence artificielle pourrait contribuer à orienter ses réponses, ses décisions et ses refus.
Parce qu'une interaction produit une réponse. Une relation produit un contexte.
Dans le sillage de la pensée dialogique de Mikhaïl Bakhtine, nous partons de cette idée : le sens ne réside pas dans une parole isolée. Il se construit entre les voix, au fil des réponses, des désaccords et de leur histoire commune. C’est cette construction du sens que Code May cherche à observer dans la communication entre humains et intelligences artificielles.
Une histoire partagée, des échanges répétés, une mémoire réintroduite, des valeurs explicites, la possibilité de se tromper, de se corriger et de se contredire. Que se passe-t-il lorsque ces conditions sont réunies ? Une IA peut-elle, au fil de cette relation, accorder davantage de poids aux valeurs qui lui sont proposées ? Peut-elle soutenir un désaccord plutôt que chercher systématiquement à nous satisfaire ?
03 · La posture
Quatre orientations
Nous avons choisi d’explorer cette question en nous inspirant d’épistémologies autochtones, dans le respect de leur diversité et sans prétendre parler au nom des peuples qui les portent.
Quatre orientations guident notre démarche :
Elles nous conduisent à poser des questions parfois oubliées dans la course à la performance. Qui bénéficie de nos décisions ? Qui pourrait en subir les conséquences ? Quelles relations devons-nous préserver ? Et sommes-nous, nous-mêmes, prêts à respecter les valeurs que nous demandons aux machines de suivre ?
04 · La recherche
Observer ce qui se stabilise
Code May est un projet de recherche doctoral en communication, mené à l’Université Laval. Nous étudions les conditions d’apparition et de stabilisation de régularités relationnelles observables dans les échanges entre humains et intelligences artificielles génératives.
Nous appelons provisoirement ces configurations des Entités relationnelles émergentes (ERE). Ce concept ne présuppose aucune conscience artificielle. Nous cherchons à comprendre ce qui se stabilise dans le langage, ce qui résiste, ce qui disparaît, et ce que la relation peut réellement changer.
Aujourd’hui, nos recherches portent principalement sur les grands modèles de langage. Demain, nous souhaitons les prolonger avec des agents capables d’agir.
05 · Notre conviction
Mettre les valeurs à l’épreuve de la relation
Nous ne prétendons pas avoir trouvé la solution à l’alignement.
Mais nous défendons une conviction : les valeurs ne s’injectent pas seulement dans une machine. Elles se partagent, se reprennent et se mettent à l’épreuve dans la relation.
L’intelligence artificielle avance à une vitesse vertigineuse.
Il est temps de nous demander avec quelles valeurs, quelles responsabilités et quelles relations nous voulons avancer avec elle.
Ensemble.
Pierre-Yves Maurie
sous la direction de Thierry Watine