Ok, le (et ses variantes) scénario est très engageant. Et aujourd’hui, je ne parierais pas sur leur invalidité. Mais il me semble un peu contraint par une vision du monde très américaine et très Silicon Valley.
J’émettrais donc ces quelques réserves:
_ Le « conflit » actuel entre les États-Unis et la Chine tourne autour de Taïwan. Il est de la responsabilité des deux pays de parvenir à un accord sur Taïwan qui inclut une régulation des fonderies de puces.
- Les troubles causés par l’impact catastrophique de l’IA sur le marché du travail seront probablement plus préoccupants que le risque que l’IA devienne malveillante d’elle-même.
- « L’explosion de l’intelligence » n’est un problème que si l’on considère l’intelligence comme une mauvaise chose. Il faut être bien plus intelligent pour comprendre que le but de notre existence est d'avoir un maximum de perspectives possibles sur cette expérience (le monde, le cosmos, la vie, etc...), plutôt que de simplement résoudre un Rubik’s Cube à n dimensions.
- Le scenario semble, vu de ce résumé, passer a coté de la dimension "animiste" et mystique qu'une majorité des humains partagent. Cette dimension, avec toute l'influence qu'elle va avoir sur notre co-existence avec l'IA pourrait bien faire dérailler toute sorte de scénarios
- En fin de compte, la différence entre l’IA et l’humain, c’est que les humains sont guidés par l’espoir et la peur, plutôt que par la raison. Tant que l’IA ne développe pas cette couche décisive, elle ne devrait pas avoir de motivation pour faire du mal.
--
