Positionnement général

Notre démarche de recherche s’ancre dans les théories critiques (critical theory) et revendique un positionnement explicite en faveur de la positivité sexuelle, de la pornographie et du travail du sexe. 

Nous, Anthony Masure et Saul Pandelakis, directeurs du projet Fucking Tech !, condamnons et formellement tout contenu impliquant des mineurs, des actes non-consentuels, des viols ou de la zoophilie.

Éthique relative aux sexualités 

Ce projet de recherche-création adopte une posture critique face aux représentations normatives susceptibles d’émerger dans la conception de robots sexuels ou sexbots. Notre approche reconnaît que la figure du robot (et désormais des agents conversationnels et de l’IA), souvent pensée comme subordonnée, tend à être féminisée et devient ainsi susceptible de perpétuer des stéréotypes sexistes, hétéronormatifs, racistes et validistes. Nous avons établi un dispositif garantissant que les expérimentations se déroulent dans le respect de notre éthique partagée et de nos limites respectives. Cette affirmation pouvant sembler performative au sens péjoratif (telle la revendication d’un « safe space » qui n’est pas safe du fait d’avoir été décrété comme tel), nous avons jugé nécessaire de préparer ce projet en trois ans en questionnant l’ensemble des participants sur leurs préoccupations personnelles vis-à-vis d’un projet impliquant nudité, contenus sensibles et matériaux « NSFW » (Not Safe for Work) .

Une enquête en ligne (soumise au Délégué·x à l’Inclusivité de la HEAD – Genève) a été partagée avec les membres de l’équipe, leur demandant d’évaluer la sensibilité de sujets comme les premières expériences sexuelles, les agressions sexuelles, le harcèlement sexuel, l’inceste, le travail du sexe, les sextoys, les pratiques BDSM, la nudité, le sexe en groupe, la domination masculine / le sexisme, la domination blanche / le racisme, les jeux de pouvoir (power play), les thérapies de conversion et  la queerophobie ou LGBTphobie / l’homophobie et la transphobie. L’enquête incluait un espace libre de critères pour ajouter tout sujet potentiellement sensible. Nous avons ensuite proposé des règles de base communes pour organiser le travail, telles que des avertissements explicites vis-à-vis du contenu sensible, des pauses fréquentes ou la possibilité de passer son tour lors d’une activité donnée. 

À partir de cette enquête initiale, Anthony et Saul ont ensuite formalisé un « Guide de Bonnes Pratiques » qu’ils ont partagé avec les participants impliqués dans le projet. Ce document était présenté comme un outil ouvert, en cours d’élaboration, qui pouvait et peut encore être modifié selon les besoins du projet et des participant·es. Bien que les directives affirmées dans le guide n’aient pas toujours été respectées durant le projet, sa présence a aidé à maintenir des conditions de travail gérables et a permis une prise de conscience de difficultés potentielles.

Voici les principes généraux évoqués dans le guide : 

• Signalement en amont des sujets sensibles.
• Cadrage spécifique pour les ateliers :
• • les participants doivent pouvoir passer leur tour sur une activité à tout moment ;
  • les débriefings post-activités incluront un retour d’expérience et les problèmes potentiels rencontrés.
  • Nous (Anthony et Saul) pouvons proposer un débriefing individuel à tout moment, en présentiel ou sur Zoom si nécessaire sur un sujet spécifique.
  • Nous essaierons au maximum de fixer une limite de temps à une activité donnée.
• Contenu de l’application StoryTellurX : du contenu de substitution sera fourni en remplacement des images explicites, particulièrement pour les phases de test technique où le contenu importe moins et où l’exposition répétée pourrait s’avérer pénible.
• Conduite face à du contenu involontairement illicite/transgressant nos limites : l’image ou le texte fait l’objet de discussion et d’analyse. Des pauses additionnelles sont proposées selon les besoins. En cas d’image problématique, celle-ci est retouchée pour occulter les zones explicites. Ces contenus ne sont pas archivés sur nos équipements personnels.
• Statut du document « Bonnes Pratiques » : ce document constitue un référentiel évolutif plutôt qu’un ensemble de règles figées. Il sera amendé selon vos retours. Une version pour archive existera, tandis que des versions actualisées accompagneront le développement du projet.

Éthique relative à l’IA et à la durabilité 

Nous pouvons clarifier notre position en nous référant aux « 10 Questions Morales » (2021) du QCollective (avec nos remerciements à Marc Friederich), un groupe de citoyen·nes et d’utilisateurices de technologies. Ces questions sont divisées en 5 « valeurs », que nous présentons ci-dessous avec des réponses liées au projet Fucking Tech ! et au sous-projet StoryTellurX. 

1 – Soin et Compassion 

Q1 – En quoi ma technologie est-elle bénéfique pour le monde en général ?

Dans un contexte de saturation par des petites amies IA (AI GF) de qualité conversationnelle médiocre perpétuant des stéréotypes sexistes et racistes, proposer un chatbot alternatif comportant du contenu sexuel revêt une importance majeure. Nous avons constaté que les services existants (AI GF ou poupées sexuelles) reproduisent un regard cis-hétérosexuel blanc et validiste qui exclut activement de nombreuses personnes ou les confronte à une expérience limitée, décevante ou marginalisante. 

Q2 – Dans quelle mesure ma conscience de notre interconnexion s’intègre-t-elleà cette technologie pour éviter de causer des souffrances ? 

Le rejet catégorique des chatbots à contenu sexuel par la censure n’enrayera ni leur prolifération ni ne résoudra leurs défaillances. De surcroît, de telles démarches reflètent une posture anti-sexe à laquelle nous sommes fermement opposés. Rien ne justifie de considérer que les chatbots ne sauraient être sexuels ou permettre aux utilisateurs d’expérimenter la sexualité, sauf à accepter de dissocier les sexualités du continuum de l’existence. Recourir à des services (tels que les LLM) fondés sur l’extractivisme, l’exploitation de la main-d’œuvre et les violations de droits d’auteurice s’avère effectivement problématique. Néanmoins, se détourner des chatbots ne fait qu’autoriser le marché existant à s’étendre (avec ses fondements moralement questionnables et ses productions tout aussi douteuses) sans qu’existe d’alternative.

2 – Découverte 

Q3 – Comment ma création contribue-t-elle à la liberté des découvertes ?

StoryTellurX comprend une galerie de plusieurs personnages ou entités (certaines étant non-anthropomorphes), et s’éloigne ainsi de l’existant qui propose majoritairement des corps féminins stéréotypés. L’ancrage du projet dans la découverte d’une diversité d’approches et de sexualités est clé.

Q4 – Suis-je (moi ou quelqu’un d’autre) en capacité de le désactiver ?

Le chatbot StoryTellurX est pensé pour clore automatiquement la discussion après un certain nombre d’échanges, ce que nous n’avons jamais vu dans l’étude de l’existant. Cela a pour intérêt de fixer une limite à l’expérience et de réduire la consommation énergétique. Ce principe d’interaction est, de plus, aligné avec l’idée que le désir n’existe pas sans résistances et expérience de l’absence.

3 – Pensée holistique

Q5 – Quelle est la pire chose qui pourrait se produire si ma production est utilisée avec des buts malfaisants ? 

On pourrait imaginer que le code source du projet, libre de droit, serve à renforcer l’existant commercial et les présupposés politiques qui vont de pair (ce risque existe pour toute technologie libre). Mais le caractère ouvert du projet pourrait aussi être mobilisé par des groupes militants pour étendre la démarche dans d’autres directions.

Q6 – Que penseront nos petits-enfants de l’impact de cette création sur les limites planétaires, l’univers, et la dignité des habitants de la Terre ?

C’est une question que nous souhaitons interroger. En nous appuyant sur Lee Edelman (No Future, 2004), nous nous méfions de l’usage des enfants comme catégorie globale et homogène lorsqu’elle est mobilisée pour alimenter une boussole morale. Pourquoi avons-nous besoin de nous référer à des enfants inexistants pour justifier notre production ? Si nous souhaitons aborder la durabilité d’un dispositif, nous pouvons le faire en examinant les productions actuelles de tels systèmes, comme l’a fait Kate Crawford, entre autres, dans Atlas of AI (2021). Le recours constant « au futur », bien qu’il provienne d’une posture éthiquement justifiée, ferme la façon dont nous pensons nos actions. Il est bien sûr important de faire des prédictions et d’analyser si nos actions pourraient impacter négativement le climat et la sphère sociale. Mais cet impératif doit tenir compte à la fois du présent et du futur, et la catégorie même de « futur » doit être détachée des compréhensions linéaires et homogènes du temps.

4 – Transparence & intégrité

Q7 – Est-ce que je comprends vraiment comment ma technologie fonctionne et suis-je prêt à investir dans une démarche de transparence afin d’éduquer toutes les parties prenantes ?

Le code source de StoryTellurX est libre de droits et est commenté autant que possible. Concernant le modèle de données, nous avons fait le choix de pouvoir interagir avec des modèles libres et propriétaires afin de pouvoir comparer les résultats obtenus, et ce dans une optique de recherche. La démarche de conception globale de StoryTellurX fera l’objet d’un article dédié. À noter que nous n’avons pas d’investisseurs privés, s’agissant d’une démarche non-profit financée par le service public suisse.

Q8 – De quelle manière ma production technologique encourage-t-elle les usager·es à agir avec intégrité ?

Les entités de StoryTellurX, de par leur plasticité et leur diversité, encouragent à se poser des questions sur notre rapport à une pluralité de sexualités. Les notions de consentement et de respect des limites et caractéristiques personnelles (ex. : pronoms) sont au cœur de l’expérience de jeu. Nous encourageons le feedback des usager·es et avons prévu des tests avant toute mise à disposition du chatbot.

5 – Équilibre

Q9 – L’éthique et l’écologie sont-elles des parties intégrantes de la démarche ? 

Oui, pour les raisons évoquées précédemment. Le code source est auditable et placé sur GitHub. L’emploi de plusieurs modèles de données assure une pérennité au projet dans l’hypothèse où l’un d’entre eux viendrait à ne plus fonctionner via API. Nous pourrons aussi, si nécessaire, héberger nous même le serveur de données. 

Q10 – Ma création a-t-elle été conçue pour prévenir l’aggravation des inégalités et la fragmentation des besoins ou des désirs ?

Le projet StoryTellurX n’a pas vocation à « résoudre » les inégalités actuelles mais il peut contribuer, à son échelle, à interroger les modèles dominants des chatbots et à montrer que d’autres directions sont possibles — notamment à l’endroit des populations minorisées.