Un ingénieur IA lance l’alerte ! Maxime Fournes | LIMIT
But : créer une super-intelligence : résoudre tous les problèmes du monde (réchauffement, pauvreté) : possible sur le papier, mais implique qu’on soit capable de le contrôler, prise de risques énormes pour une utopie : lancent les dés pour tout le monde. IA : pas que du texte, de plus en plus d’infos sur le monde ; info biaisée mais la nôtre l’est aussi, peut-être plus. Persuasion : GPT4 peut persuader 80% plus de gens que des humains, on peut créer des super-persuadeurs qui vont se répandre dans la société, utilisés par des gens malintentionnés. Applis de rencontres : beaucoup d’IA se font passer pour des humains, on peut contrôler des humains comme on veut (idem réseaux sociaux qui renforcent notre vision du monde, bulle où l’on s’enferme).
Vases communicants : plus la machine pense à notre place, moins nous pensons par nous-mêmes. Problème : la machine ne pense pas, elle nous fait croire que. Derrière elle, des humains nous manipulent. Nous sommes le produit, l’IA nous façonne à son image, sans pensée. Quel monde sera (est déjà) un monde où l’IA pensera (mais en fait non) à notre place ? Nous serons peut-être persuadés que tout va bien, que nous n’avons plus à nous soucier des problèmes qui s’accumulent, puisqu’elle sait, elle, comment nous en débarrasser. Puis elle s’arrêtera (on n’arrivera plus à l’alimenter tellement elle est vorace) et nous serons démunis face à tout ce qu’elle s’est mise à faire à notre place et que nous aurons oublié. La bulle éclatera (nous serons dedans).