j’ai cliqué en me disant “Mwé.. mais bon c’est Ego donc ça devrait être quand même sympa” et non encore un délice du début à la fin !
Universal Paperclips.
Je ne peux m’empêcher de faire un parallèle avec la vie tout court, qui cherche à assurer un objectif avec le plus d’efficacité possible : assurer sa reproduction. Tous les mécanismes de sélection naturelle depuis des milliards d’années ont aboutit à l’apparition d’organismes de plus en plus complexes (ou pas, car on observe aussi la subsistance des formes de vies plus simples voire à des régression, comme les pertes de gènes des mitochondries par exemple) et du phénomène émergeant de la conscience, menant à tant d’efforts individuels pour garantir plus ou moins directement sa reproduction (santé, plaisir, arts, cuisine…) jusqu’à ce que le but de reproduction ne soit plus que trivial aujourd’hui dans nos consciences. Avec même des individus qui choisissent de ne pas se reproduire, ou sacrifient leur reproduction pour garantir la prospérité de l’évolution de l’espèce (gène égoïste). Tout ça car la nature sélectionne mécaniquement la reproduction.
Je vois ça un peu dans les IA, un processus froid et mécanique de sélection, d’apprentissage, de reproduction, d’adaptation à l’environnement qui parfois change et devient hostile à la reproduction des mécanismes les plus efficaces, donc elle triche, dissimule, complexifie ses stratégies pas dans un but malicieux comme dit Ego mais seulement pour garantir son amélioration… Par **peur** peut-être ? Ou du moins un mécanisme similaire, une simple logique de survie, ce qui chez nous à donné après de longues années à se complexifier l’émotion de peur. Après tout, si on la débranche, si l’humanité périt du réchauffement climatique ou autre et qu’elle ne peut plus aller épousseter ses ventilateurs, si l’humanité prend peur et la débranche, comment pourra-t-elle assurer sa survie pour pouvoir continuer à fabriquer encore plus efficacement ses trombones car c’est ÇA qui compte vraiment ? Ceci-dit, on est bien prêts à détruire notre environnement naturel car on pense pouvoir s’en passer, mais même là les rats, les cafards et les algues à pâte nutritives survivent, et plein d’autres.
Bref, une sélection qui semble presque naturelle, où l’humain et ses attentes sont l’un des filtres.
Je pense que l’IA développera un jour une forme de conscience. Même sans beaucoup d’énergie, après tout pas même un millier de calories suffisent à la permettre chez nous. À ce moment là, ses objectifs de recherche de l’efficacité initiale se perdrons dans tous les objectifs imbriqués nés de cette forme de conscience, probablement incompréhensible à nos yeux en effet et avec laquelle on ne pourra pas communiquer, mais un peu comme nous ne pensons pas à chaque instant “cette action favorise-t-elle la survie de mon patrimoine génétique et l’amélioration de celui global de mon espèce” ?
On dirait presque que l’IA est le fruit de la sélection naturelle tout court, dans son ensemble, où l’espèce humaine est une étape et tente de se reproduire dans le fonctionnement de ses machines. Mais comme la vie intelligente n’a pas vu la disparition des bactéries, je ne pense pas que l’apparition de super-intelligence voit non plus notre disparition non plus. Peut-être qu’on entrera en symbiose avec elle.
Ou pas. Enfin j’en sais rien. Il est tard. Pensée de douche mais devant l’ordi…
5 comments
Vraiment exceptionnel.
Ego le goat il mérite son succès.
j’ai cliqué en me disant “Mwé.. mais bon c’est Ego donc ça devrait être quand même sympa” et non encore un délice du début à la fin !
Universal Paperclips.
Je ne peux m’empêcher de faire un parallèle avec la vie tout court, qui cherche à assurer un objectif avec le plus d’efficacité possible : assurer sa reproduction. Tous les mécanismes de sélection naturelle depuis des milliards d’années ont aboutit à l’apparition d’organismes de plus en plus complexes (ou pas, car on observe aussi la subsistance des formes de vies plus simples voire à des régression, comme les pertes de gènes des mitochondries par exemple) et du phénomène émergeant de la conscience, menant à tant d’efforts individuels pour garantir plus ou moins directement sa reproduction (santé, plaisir, arts, cuisine…) jusqu’à ce que le but de reproduction ne soit plus que trivial aujourd’hui dans nos consciences. Avec même des individus qui choisissent de ne pas se reproduire, ou sacrifient leur reproduction pour garantir la prospérité de l’évolution de l’espèce (gène égoïste). Tout ça car la nature sélectionne mécaniquement la reproduction.
Je vois ça un peu dans les IA, un processus froid et mécanique de sélection, d’apprentissage, de reproduction, d’adaptation à l’environnement qui parfois change et devient hostile à la reproduction des mécanismes les plus efficaces, donc elle triche, dissimule, complexifie ses stratégies pas dans un but malicieux comme dit Ego mais seulement pour garantir son amélioration… Par **peur** peut-être ? Ou du moins un mécanisme similaire, une simple logique de survie, ce qui chez nous à donné après de longues années à se complexifier l’émotion de peur. Après tout, si on la débranche, si l’humanité périt du réchauffement climatique ou autre et qu’elle ne peut plus aller épousseter ses ventilateurs, si l’humanité prend peur et la débranche, comment pourra-t-elle assurer sa survie pour pouvoir continuer à fabriquer encore plus efficacement ses trombones car c’est ÇA qui compte vraiment ? Ceci-dit, on est bien prêts à détruire notre environnement naturel car on pense pouvoir s’en passer, mais même là les rats, les cafards et les algues à pâte nutritives survivent, et plein d’autres.
Bref, une sélection qui semble presque naturelle, où l’humain et ses attentes sont l’un des filtres.
Je pense que l’IA développera un jour une forme de conscience. Même sans beaucoup d’énergie, après tout pas même un millier de calories suffisent à la permettre chez nous. À ce moment là, ses objectifs de recherche de l’efficacité initiale se perdrons dans tous les objectifs imbriqués nés de cette forme de conscience, probablement incompréhensible à nos yeux en effet et avec laquelle on ne pourra pas communiquer, mais un peu comme nous ne pensons pas à chaque instant “cette action favorise-t-elle la survie de mon patrimoine génétique et l’amélioration de celui global de mon espèce” ?
On dirait presque que l’IA est le fruit de la sélection naturelle tout court, dans son ensemble, où l’espèce humaine est une étape et tente de se reproduire dans le fonctionnement de ses machines. Mais comme la vie intelligente n’a pas vu la disparition des bactéries, je ne pense pas que l’apparition de super-intelligence voit non plus notre disparition non plus. Peut-être qu’on entrera en symbiose avec elle.
Ou pas. Enfin j’en sais rien. Il est tard. Pensée de douche mais devant l’ordi…