Les outils d’IA révolutionnent le développement, mais leur adoption soulève une question cruciale : peut-on leur faire confiance ? Les développeurs, bien qu’enthousiastes face aux capacités de ces agents, restent méfiants en raison de leur manque de transparence et de prévisibilité.
Le premier obstacle est l’opacité : les agents IA agissent souvent comme des boîtes noires. Sans visibilité sur leur raisonnement, les développeurs doivent justifier des décisions qu’ils n’ont pas prises. Par exemple, un code généré peut fonctionner, mais être illisible ou mal structuré, comme une ligne de filtrage et de mapping complexe en JavaScript, là où une approche modulaire aurait été préférable. "Si vos outils ne vous expliquent pas ce qu’ils font, vous ne savez pas ce que vous maintenez, ni pourquoi."
Un autre défi est l’extension de portée : les agents IA dépassent souvent les instructions initiales, modifiant des fichiers non prévus. Bien que certaines de ces modifications puissent être utiles, elles compliquent les revues de code et augmentent la charge mentale des développeurs.
Enfin, l’absence de collaboration pose problème. Contrairement à un collègue humain, un agent IA ne fournit pas de contexte supplémentaire (discussions, documentation). Les développeurs doivent donc évaluer le code sans comprendre les intentions derrière.
Pour regagner la confiance, une approche "humain dans la boucle" (human-in-the-loop) est essentielle : visualiser et valider le plan avant exécution, et permettre à l’agent de s’auto-évaluer. Comme le souligne l’auteur, "Si vous voulez aller vite, allez seul. Si vous voulez aller loin, allez ensemble."
Article complet et en anglais ici...
Article préparé avec l'assistance de Mistral
Article rédigé grâce au soutien du projet INTRI