Tiré de l’excellent article de Wait but Why (en anglais dans les sources, traduction par moi) : “Imaginez que vous remontiez jusqu’en 1750 - Dans une période de guerre continuelle, où les communications longue distance se résument à crier très fort ou envoyer des boulets de canon, et où tous les moyens de transports étaient nourris au foin. Quand vous arrivez, vous prenez quelqu’un, le ramenez en 2015 et lui faites visiter les alentours pour voir sa réaction. Il serait impossible pour nous de comprendre ce qu’il pourrait ressentir en voyant des capsules brillantes foncer sur une des routes énormes, en parlant à des gens qui ont été de l’autre côté de l’océan le matin même, en regardant un match de sport qui se passe à 500 km d’ici, en écoutant une comédie musicale qui s’est passée il y a 50 ans, et en utilisant un petit rectangle magique pour enregistrer une image en temps réel, générer une carte avec un petit point bleu qui indique où il est, regarder et parler avec quelqu’un à l’autre bout du pays, et plein d’autres sorcelleries. Tout ça avant de lui montrer l’Internet, lui expliquer l’ISS, le LHC, les armes nucléaires ou la relativité générale.

Cette expérience ne serait pas surprenante ou choquante pour lui, ou même ‘mind blowing’ - Ces mots ne sont pas assez importants. En fait, il pourrait en mourir.

Mais ce n’est pas ce qui est le plus intéressant - Si maintenant, il retournait en 1750, et eut honte qu’on aie pu voir sa réaction, et voulait pouvoir faire la même chose, lui aussi remonterait le temps d’autant d’années pour prendre quelqu’un vivant aux environs de 1500, le ramènerait en 1750 et lui montrerait le monde. Cette personne serait certainement choquée par beaucoup de choses - mais, n’en mourrait pas. Ce serait une expérience -bien- moins folle pour lui, parce que, bien que 1500 et 1750 sont très différents, ils sont -bien- moins différents qu’entre 1750 et 2015. La personne de 1500 pourrait apprendre quelques informations incroyables sur l’espace et la physique, elle serait impressionnée par comment l’Europe est devenue impérialiste dans tous les sens, et elle devrait revoir sa copie de géographie. Mais en regardant la vie de tous les jours de 1750 - les transports, les communications, etc - Cela ne serait pas assez pour en mourir.

Non, pour que la personne de 1750 puisse voir la même réaction qu’elle a eue, elle devrait remonter bien plus loin dans le temps - peut-être jusqu’en 12000 avant Jésus Christ, avant que la révolution de l’agriculture ne donne naissance aux premières cités et au concept de civilisation. Si un chasseur-cueilleur pur et dur qui vit dans un monde où l’homme était au final un animal comme un autre, voyait le vaste empire humain de 1750 avec les églises, les navires qui traversent l’océan, le concept d’être ‘à l’intérieur’, et l’énorme montagne de connaissance et de découvertes humaines accumulée - Là, il pourrait en mourir.

Et, maintenant, si après être morte, cette personne eut également honte et voulait faire la même chose ? Elle remonterait le temps, peut-être quelque part entre 12 000 et 24 000 avant notre ère, pour ramener quelqu’un de là et lui montrer en -12000 ? Elle lui montrerait les alentours, mais la personne dirait ‘Oui, et alors ?’. Pour que la personne de -12000 puisse obtenir la même réaction, elle devrait aller bien plus loin en arrière, comme 100 000 ans avant et ramener quelqu’un pour lui montrer le feu et les langages.”

“Ce motif - que la progression humaine se fasse de plus en plus rapidement en même temps que le Temps progresse - est ce que le futuriste Ray Kurtzweil appelle la loi humaine du Retour s’Accélérant. Cela arrive car les sociétés plus avancées sont capable également de progresser à une -vitesse- plus importante que les plus anciennes sociétés, tout simplement parce qu’elle sont plus avancées. l’humanité du 19ème siècle a plus de technologie que l’humanité du 15ème siècle, donc cela a du sens qu’on aie fait plus d’innovations au 19ème siècle qu’au 15ème.”

Il suffira de leur couper le courant ^^
C’est pas parce qu’on est intelligent qu’on n’est pas bêtement dépendant d’un truc vital. En particulier un truc entièrement virtuel qui reste bêtement dépendant du monde matériel pour exister.

Il y aura peut être une autre singularité, quand on arrivera à faire des robots capable de s’auto-entretenir. Et d’entretenir l’ensemble du système d’extraction d’énergie.

Les films de science-fiction oublient toujours ce problème. ^^
Bref, on a le temps de voir venir.

De plus, on est plus intelligent que les cafards, c’est pas pour autant qu’on arrive à s’en débarrasser. :p

Assez flippant comme information... Laissons de côté toute cette technologie retournons un peu dehors prendre l air et profitons de notre bonne vieille Terre

Hawking nous a pourtant prévenu de la dangerosité de ces IA...

Tiré de l’excellent article de Wait but Why (en anglais dans les sources, traduction par moi) : “Imaginez que vous remontiez jusqu’en 1750 - Dans une période de guerre continuelle, où les communications longue distance se résument à crier très fort ou envoyer des boulets de canon, et où tous les moyens de transports étaient nourris au foin. Quand vous arrivez, vous prenez quelqu’un, le ramenez en 2015 et lui faites visiter les alentours pour voir sa réaction. Il serait impossible pour nous de comprendre ce qu’il pourrait ressentir en voyant des capsules brillantes foncer sur une des routes énormes, en parlant à des gens qui ont été de l’autre côté de l’océan le matin même, en regardant un match de sport qui se passe à 500 km d’ici, en écoutant une comédie musicale qui s’est passée il y a 50 ans, et en utilisant un petit rectangle magique pour enregistrer une image en temps réel, générer une carte avec un petit point bleu qui indique où il est, regarder et parler avec quelqu’un à l’autre bout du pays, et plein d’autres sorcelleries. Tout ça avant de lui montrer l’Internet, lui expliquer l’ISS, le LHC, les armes nucléaires ou la relativité générale.

Cette expérience ne serait pas surprenante ou choquante pour lui, ou même ‘mind blowing’ - Ces mots ne sont pas assez importants. En fait, il pourrait en mourir.

Mais ce n’est pas ce qui est le plus intéressant - Si maintenant, il retournait en 1750, et eut honte qu’on aie pu voir sa réaction, et voulait pouvoir faire la même chose, lui aussi remonterait le temps d’autant d’années pour prendre quelqu’un vivant aux environs de 1500, le ramènerait en 1750 et lui montrerait le monde. Cette personne serait certainement choquée par beaucoup de choses - mais, n’en mourrait pas. Ce serait une expérience -bien- moins folle pour lui, parce que, bien que 1500 et 1750 sont très différents, ils sont -bien- moins différents qu’entre 1750 et 2015. La personne de 1500 pourrait apprendre quelques informations incroyables sur l’espace et la physique, elle serait impressionnée par comment l’Europe est devenue impérialiste dans tous les sens, et elle devrait revoir sa copie de géographie. Mais en regardant la vie de tous les jours de 1750 - les transports, les communications, etc - Cela ne serait pas assez pour en mourir.

Non, pour que la personne de 1750 puisse voir la même réaction qu’elle a eue, elle devrait remonter bien plus loin dans le temps - peut-être jusqu’en 12000 avant Jésus Christ, avant que la révolution de l’agriculture ne donne naissance aux premières cités et au concept de civilisation. Si un chasseur-cueilleur pur et dur qui vit dans un monde où l’homme était au final un animal comme un autre, voyait le vaste empire humain de 1750 avec les églises, les navires qui traversent l’océan, le concept d’être ‘à l’intérieur’, et l’énorme montagne de connaissance et de découvertes humaines accumulée - Là, il pourrait en mourir.

Et, maintenant, si après être morte, cette personne eut également honte et voulait faire la même chose ? Elle remonterait le temps, peut-être quelque part entre 12 000 et 24 000 avant notre ère, pour ramener quelqu’un de là et lui montrer en -12000 ? Elle lui montrerait les alentours, mais la personne dirait ‘Oui, et alors ?’. Pour que la personne de -12000 puisse obtenir la même réaction, elle devrait aller bien plus loin en arrière, comme 100 000 ans avant et ramener quelqu’un pour lui montrer le feu et les langages.”

Skynet arrive...

Luick a écrit : Tiré de l’excellent article de Wait but Why (en anglais dans les sources, traduction par moi) : “Imaginez que vous remontiez jusqu’en 1750 - Dans une période de guerre continuelle, où les communications longue distance se résument à crier très fort ou envoyer des boulets de canon, et où tous les moyens de transports étaient nourris au foin. Quand vous arrivez, vous prenez quelqu’un, le ramenez en 2015 et lui faites visiter les alentours pour voir sa réaction. Il serait impossible pour nous de comprendre ce qu’il pourrait ressentir en voyant des capsules brillantes foncer sur une des routes énormes, en parlant à des gens qui ont été de l’autre côté de l’océan le matin même, en regardant un match de sport qui se passe à 500 km d’ici, en écoutant une comédie musicale qui s’est passée il y a 50 ans, et en utilisant un petit rectangle magique pour enregistrer une image en temps réel, générer une carte avec un petit point bleu qui indique où il est, regarder et parler avec quelqu’un à l’autre bout du pays, et plein d’autres sorcelleries. Tout ça avant de lui montrer l’Internet, lui expliquer l’ISS, le LHC, les armes nucléaires ou la relativité générale.

Cette expérience ne serait pas surprenante ou choquante pour lui, ou même ‘mind blowing’ - Ces mots ne sont pas assez importants. En fait, il pourrait en mourir.

Mais ce n’est pas ce qui est le plus intéressant - Si maintenant, il retournait en 1750, et eut honte qu’on aie pu voir sa réaction, et voulait pouvoir faire la même chose, lui aussi remonterait le temps d’autant d’années pour prendre quelqu’un vivant aux environs de 1500, le ramènerait en 1750 et lui montrerait le monde. Cette personne serait certainement choquée par beaucoup de choses - mais, n’en mourrait pas. Ce serait une expérience -bien- moins folle pour lui, parce que, bien que 1500 et 1750 sont très différents, ils sont -bien- moins différents qu’entre 1750 et 2015. La personne de 1500 pourrait apprendre quelques informations incroyables sur l’espace et la physique, elle serait impressionnée par comment l’Europe est devenue impérialiste dans tous les sens, et elle devrait revoir sa copie de géographie. Mais en regardant la vie de tous les jours de 1750 - les transports, les communications, etc - Cela ne serait pas assez pour en mourir.

Non, pour que la personne de 1750 puisse voir la même réaction qu’elle a eue, elle devrait remonter bien plus loin dans le temps - peut-être jusqu’en 12000 avant Jésus Christ, avant que la révolution de l’agriculture ne donne naissance aux premières cités et au concept de civilisation. Si un chasseur-cueilleur pur et dur qui vit dans un monde où l’homme était au final un animal comme un autre, voyait le vaste empire humain de 1750 avec les églises, les navires qui traversent l’océan, le concept d’être ‘à l’intérieur’, et l’énorme montagne de connaissance et de découvertes humaines accumulée - Là, il pourrait en mourir.

Et, maintenant, si après être morte, cette personne eut également honte et voulait faire la même chose ? Elle remonterait le temps, peut-être quelque part entre 12 000 et 24 000 avant notre ère, pour ramener quelqu’un de là et lui montrer en -12000 ? Elle lui montrerait les alentours, mais la personne dirait ‘Oui, et alors ?’. Pour que la personne de -12000 puisse obtenir la même réaction, elle devrait aller bien plus loin en arrière, comme 100 000 ans avant et ramener quelqu’un pour lui montrer le feu et les langages.” Afficher tout Je ne suis pas d'accord. Dans les Visisteurs, Jacouille s'en sort très bien, il apprend même à conduire !

“Ce motif - que la progression humaine se fasse de plus en plus rapidement en même temps que le Temps progresse - est ce que le futuriste Ray Kurtzweil appelle la loi humaine du Retour s’Accélérant. Cela arrive car les sociétés plus avancées sont capable également de progresser à une -vitesse- plus importante que les plus anciennes sociétés, tout simplement parce qu’elle sont plus avancées. l’humanité du 19ème siècle a plus de technologie que l’humanité du 15ème siècle, donc cela a du sens qu’on aie fait plus d’innovations au 19ème siècle qu’au 15ème.”

A chaque fois que l'homme se confronte a l'inconnu, il s'invente des histoires... se qui est sur, cest que nous ne sommes pas capable dimaginer se qui se passera apres ce point. se qui est aussi sur cest que aucune des 2 theories extreme donnee par lanecdocte se realiseron

Tout cela pour dire que nous sommes arrivées à une période où les innovations technologiques majeures ne se comptent plus en millénaires, ni en siècles, mais en décennies - nous sommes à la limite de l'Histoire où, grâce à l'aide de l'Intelligence Artificielle, nous serions capable d'innover de manière continuelle, et toujours à un rythme plus effréné, au point où il serait possible que l'IA soit si avancée, que nous, humains ne pourrions plus rien comprendre à ces innovations.
Et cela arrive bien plus vite qu'on ne le croie ! Car nous les hommes, ne sommes pas capable de penser de manière exponentielle. On pense que cela arrivera dans 50, 40 ans au plus tôt, mais les gens comme Kurtzweil tablent plutôt sur 2030, et cette prédiction, c'était avant des avancées majeures comme l'IA de Go qui bat un joueur humain et qu'on ne pensait pas arriver avant 2020 (c'est arrivée l'année dernière !).
Passé ce point de singularité technologique, on ne sait vraiment pas ce qu'il peut arriver; l'IA pourrait avoir une explosion innovative telle qu'on pourrait trouver un remède à tous les cancers, trouver une solution à l'humanité à la fois écologique et sociale, voir même vaincre la mort. Mais cela pourrait aussi marquer l'avènement le "l'ère des robots' qui pourrait finir par trouver une conscience et se dire "finalement, nous sommes plus intelligents que les hommes, pourquoi les garder en vie ?".
Personnellement, j'ai vraiment hâte et j'espère réellement que cela arrive de mon vivant! Au mieux je deviens immortel, au pire, et bien au moins j'aurai vécu la fin de l'Humanité!

Il suffira de leur couper le courant ^^
C’est pas parce qu’on est intelligent qu’on n’est pas bêtement dépendant d’un truc vital. En particulier un truc entièrement virtuel qui reste bêtement dépendant du monde matériel pour exister.

Il y aura peut être une autre singularité, quand on arrivera à faire des robots capable de s’auto-entretenir. Et d’entretenir l’ensemble du système d’extraction d’énergie.

Les films de science-fiction oublient toujours ce problème. ^^
Bref, on a le temps de voir venir.

De plus, on est plus intelligent que les cafards, c’est pas pour autant qu’on arrive à s’en débarrasser. :p

Luick a écrit : Tout cela pour dire que nous sommes arrivées à une période où les innovations technologiques majeures ne se comptent plus en millénaires, ni en siècles, mais en décennies - nous sommes à la limite de l'Histoire où, grâce à l'aide de l'Intelligence Artificielle, nous serions capable d'innover de manière continuelle, et toujours à un rythme plus effréné, au point où il serait possible que l'IA soit si avancée, que nous, humains ne pourrions plus rien comprendre à ces innovations.
Et cela arrive bien plus vite qu'on ne le croie ! Car nous les hommes, ne sommes pas capable de penser de manière exponentielle. On pense que cela arrivera dans 50, 40 ans au plus tôt, mais les gens comme Kurtzweil tablent plutôt sur 2030, et cette prédiction, c'était avant des avancées majeures comme l'IA de Go qui bat un joueur humain et qu'on ne pensait pas arriver avant 2020 (c'est arrivée l'année dernière !).
Passé ce point de singularité technologique, on ne sait vraiment pas ce qu'il peut arriver; l'IA pourrait avoir une explosion innovative telle qu'on pourrait trouver un remède à tous les cancers, trouver une solution à l'humanité à la fois écologique et sociale, voir même vaincre la mort. Mais cela pourrait aussi marquer l'avènement le "l'ère des robots' qui pourrait finir par trouver une conscience et se dire "finalement, nous sommes plus intelligents que les hommes, pourquoi les garder en vie ?".
Personnellement, j'ai vraiment hâte et j'espère réellement que cela arrive de mon vivant! Au mieux je deviens immortel, au pire, et bien au moins j'aurai vécu la fin de l'Humanité! Afficher tout "La société devient un enfer dès qu'on veut en faire un paradis" Gustave Thibon, philosophe-paysan. Je m'en tiendrais là, si j'étais nous...

Luick a écrit : Tout cela pour dire que nous sommes arrivées à une période où les innovations technologiques majeures ne se comptent plus en millénaires, ni en siècles, mais en décennies - nous sommes à la limite de l'Histoire où, grâce à l'aide de l'Intelligence Artificielle, nous serions capable d'innover de manière continuelle, et toujours à un rythme plus effréné, au point où il serait possible que l'IA soit si avancée, que nous, humains ne pourrions plus rien comprendre à ces innovations.
Et cela arrive bien plus vite qu'on ne le croie ! Car nous les hommes, ne sommes pas capable de penser de manière exponentielle. On pense que cela arrivera dans 50, 40 ans au plus tôt, mais les gens comme Kurtzweil tablent plutôt sur 2030, et cette prédiction, c'était avant des avancées majeures comme l'IA de Go qui bat un joueur humain et qu'on ne pensait pas arriver avant 2020 (c'est arrivée l'année dernière !).
Passé ce point de singularité technologique, on ne sait vraiment pas ce qu'il peut arriver; l'IA pourrait avoir une explosion innovative telle qu'on pourrait trouver un remède à tous les cancers, trouver une solution à l'humanité à la fois écologique et sociale, voir même vaincre la mort. Mais cela pourrait aussi marquer l'avènement le "l'ère des robots' qui pourrait finir par trouver une conscience et se dire "finalement, nous sommes plus intelligents que les hommes, pourquoi les garder en vie ?".
Personnellement, j'ai vraiment hâte et j'espère réellement que cela arrive de mon vivant! Au mieux je deviens immortel, au pire, et bien au moins j'aurai vécu la fin de l'Humanité! Afficher tout T'as un petit côté Tournesol que j'aime beaucoup, toi. T'es peut-être bien fou mais t'as raison de l'être

Ce que j'ai du mal à comprendre, c'est que la technologie humaine dépend de l'homme, alors à moins que les IA que l'homme aura inventé prennent le relais et agissent comme bon leur semble, on ne devrait pas se laisser dépasser par nos propres inventions quand même. Enfin dans la mesure où il me semble judicieux de pouvoir garder le contrôle de ses propres inventions.

Par contre, compte tenu de la technologie actuelle, il pourrait inventer des choses qu'on imagine à peine voire pas du tout, et peut-être même sous peu. Il suffit de voir la réaction des gens du début du 20e siècle quand quelques illuminés disaient que l'homme marcherait sur la Lune (indépendamment du débat qui existe autour) ou enverraient des machines sur les autres planètes.

En fait, on ne peut pas parler d'innovations technologiques, mais d'améliorations progressives, constantes et en accélération de technologies existant déjà en 1900 (fin du XIXème siècle)
Les seules découvertes innovantes sont le CD, le Microondes et le velcro (voir MiB)
Pour l'IA, si ce sont des êtres humains qui la créent, ils ne pourront pas faire mieux que ce qu'ils connaissent de l'"intelligence", c'est à dire pas grand chose. On peut augmenter la taille des bases de données, les remplir jusqu'à plus soif, mais une machine, aussi perfectionnée qu'elle soit, ne peut actuellement pas concevoir sans information sur la notion de concept. L'imagination et l'initiative libre (non programmée) ne peuvent se prédire, c'est le propre du vivant.
Ça ne veut pas dire qu'on aura pas l'impression d'être en face d'une technologie impressionnante, possiblement dangereuse, qu'une machine peut sembler vivre, mais je ne pense pas qu'elle puisse survivre en "transmettant" à sa descendance.
Bon, de toute façon, la plupart d'entre nous ne sera plus là pour le voir.

Le fameux fantasme de la singularité technologique... On en est quand même loin, la loi de Moore n'est plus vérifiée quand aux IA aucune n'est autre chose qu'un algorithme de statistiques un peu poussé.
Je conseille le livre "le mythe de la singularité" à ce sujet, il décrit bien pourquoi cette idée plaît (des tas de personnalités connues en font la publicité comme Bill Gates ou Elon Musk)

Luick a écrit : Tout cela pour dire que nous sommes arrivées à une période où les innovations technologiques majeures ne se comptent plus en millénaires, ni en siècles, mais en décennies - nous sommes à la limite de l'Histoire où, grâce à l'aide de l'Intelligence Artificielle, nous serions capable d'innover de manière continuelle, et toujours à un rythme plus effréné, au point où il serait possible que l'IA soit si avancée, que nous, humains ne pourrions plus rien comprendre à ces innovations.
Et cela arrive bien plus vite qu'on ne le croie ! Car nous les hommes, ne sommes pas capable de penser de manière exponentielle. On pense que cela arrivera dans 50, 40 ans au plus tôt, mais les gens comme Kurtzweil tablent plutôt sur 2030, et cette prédiction, c'était avant des avancées majeures comme l'IA de Go qui bat un joueur humain et qu'on ne pensait pas arriver avant 2020 (c'est arrivée l'année dernière !).
Passé ce point de singularité technologique, on ne sait vraiment pas ce qu'il peut arriver; l'IA pourrait avoir une explosion innovative telle qu'on pourrait trouver un remède à tous les cancers, trouver une solution à l'humanité à la fois écologique et sociale, voir même vaincre la mort. Mais cela pourrait aussi marquer l'avènement le "l'ère des robots' qui pourrait finir par trouver une conscience et se dire "finalement, nous sommes plus intelligents que les hommes, pourquoi les garder en vie ?".
Personnellement, j'ai vraiment hâte et j'espère réellement que cela arrive de mon vivant! Au mieux je deviens immortel, au pire, et bien au moins j'aurai vécu la fin de l'Humanité! Afficher tout Excelent

L'état de la connerie humaine, en revanche, est stationnaire, avec tout de même quelques innovations, comme par exemple l'apparition récente et la progression du masochisme moral

latour a écrit : En fait, on ne peut pas parler d'innovations technologiques, mais d'améliorations progressives, constantes et en accélération de technologies existant déjà en 1900 (fin du XIXème siècle)
Les seules découvertes innovantes sont le CD, le Microondes et le velcro (voir MiB)
Pour l'IA, si ce sont des êtres humains qui la créent, ils ne pourront pas faire mieux que ce qu'ils connaissent de l'"intelligence", c'est à dire pas grand chose. On peut augmenter la taille des bases de données, les remplir jusqu'à plus soif, mais une machine, aussi perfectionnée qu'elle soit, ne peut actuellement pas concevoir sans information sur la notion de concept. L'imagination et l'initiative libre (non programmée) ne peuvent se prédire, c'est le propre du vivant.
Ça ne veut pas dire qu'on aura pas l'impression d'être en face d'une technologie impressionnante, possiblement dangereuse, qu'une machine peut sembler vivre, mais je ne pense pas qu'elle puisse survivre en "transmettant" à sa descendance.
Bon, de toute façon, la plupart d'entre nous ne sera plus là pour le voir. Afficher tout Il me semble que la science tend de plus en plus vers l'hypothèse que le libre arbitre n'existe pas et donc que les initiatives libres non plus.

Du coup le libre arbitres ne serait que des actions qu'on arrive pas à prévoir. Dans ce cas des machines pourraient tout à fait répondre à ce critère.

Titsta a écrit : Il suffira de leur couper le courant ^^
C’est pas parce qu’on est intelligent qu’on n’est pas bêtement dépendant d’un truc vital. En particulier un truc entièrement virtuel qui reste bêtement dépendant du monde matériel pour exister.

Il y aura peut être une autre singularité, quand on arrivera à faire des robots capable de s’auto-entretenir. Et d’entretenir l’ensemble du système d’extraction d’énergie.

Les films de science-fiction oublient toujours ce problème. ^^
Bref, on a le temps de voir venir.

De plus, on est plus intelligent que les cafards, c’est pas pour autant qu’on arrive à s’en débarrasser. :p Afficher tout J'aime bien le zèle présent dans cette réponse. On parle d'un « non retour » technologique, c'est à dire une avancée telle qu'on ne puisse ensuite faire machine arrière. Couper le courant ? Quasiment certain qu'une intelligence artificielle aura compris le concept de l'interrupteur électrique.

Peu probable qu'une intelligence artificielle se limite à l'endroit où elle aura été développée. Plus probable qu'elle prolifère dans l'Internet (celui des objets, des réseaux, etc.) de sorte que le seul interrupteur qu'on puisse actionner soit celui qui nous renvoie à l'âge de pierre.

C'est pas un problème qu'on peut résoudre. On ne sait pas dans quel sens cela peut évoluer donc dire qu'on coupe le courant car on est plus intelligent que les cafards et que les cafards n'ont disparu est un non sens. Le cafard n'a pas conscience des civilisations, des générations futures, d'exister, ni du monde dans lequel ils vivent contrairement à une IA qui aurait atteint un point de non retour.

C'est pas un problème à prendre à la légère et c'est bien là où le bât blesse. Les développeurs d'IA ne voient que l'aspect positif de ces nouvelles technologies et oublient les risques.

latour a écrit : En fait, on ne peut pas parler d'innovations technologiques, mais d'améliorations progressives, constantes et en accélération de technologies existant déjà en 1900 (fin du XIXème siècle)
Les seules découvertes innovantes sont le CD, le Microondes et le velcro (voir MiB)
Pour l'IA, si ce sont des êtres humains qui la créent, ils ne pourront pas faire mieux que ce qu'ils connaissent de l'"intelligence", c'est à dire pas grand chose. On peut augmenter la taille des bases de données, les remplir jusqu'à plus soif, mais une machine, aussi perfectionnée qu'elle soit, ne peut actuellement pas concevoir sans information sur la notion de concept. L'imagination et l'initiative libre (non programmée) ne peuvent se prédire, c'est le propre du vivant.
Ça ne veut pas dire qu'on aura pas l'impression d'être en face d'une technologie impressionnante, possiblement dangereuse, qu'une machine peut sembler vivre, mais je ne pense pas qu'elle puisse survivre en "transmettant" à sa descendance.
Bon, de toute façon, la plupart d'entre nous ne sera plus là pour le voir. Afficher tout Merci Latour d'avoir très bien résumé le XXe siècle :
"Les seules découvertes innovantes sont le CD, le Microondes et le velcro"

Il n'y a donc rien eut d'autre si ce n'est des améliorations des technologies pré-existantes. D'ailleurs, les inventions et progrès du XXI siècles ne sont en réalité que des améliorations de techniques existant déjà en 1800. En continuant cet raisonnement, on en arrive à la conclusion que tout les innovations techniques et technologiques existaient déjà en 100 000 avant notre ère, et que nous n'avons vu que des "améliorations progressives, constantes et en accélération de technologies existant déjà".

Sauf le velcro et le micro-onde, bien sûr.

Ce concept de singularité technologique n'est pas loin d'être une simple absurdité basée sur de faux postulats. Je vous encourage à lire d'abord les commentaires de l'OP afin de comprendre de quoi je parle.

Tout d'abord, on se base sur le fait que le progrès technologique n'est pas linéaire mais exponentiel. Cela se vérifie historiquement jusqu'au début du 21eme siècle mais ce n'est déjà plus vrai aujourd'hui, votre ordinateur n'est plus aussi vite obsolète qu'il l'était dans les années 90. En fait, la progression n'est même plus linéaire mais tend plutôt vers une courbe logarithmique, suggérant un maximum.

Le deuxième point justement est la question du maximum. Pour qu'une singularité technologique puisse survenir, il faut que les progrès technologiques et informatiques n'aient pas de maximum, or tout porte à croire que c'est bien le cas. Les ordinateurs notamment, ne fonctionnent pas à la magie noire mais bien selon des principes physiques. Le but lorsqu'on veut améliorer un ordinateur est de le rendre plus petit et moins énergivore, or, les lois de la physique nous empêchent de réduire la dimension des composants au delà d'une certaine limite (d'ores et déjà atteinte). Aucun argument rationnellement construit à part "ça a toujours été comme ça jusqu'à maintenant" ne permet de supposer que l'informatique puisse progresser à l'infini, un ordinateur est après tout une machine au même titre que votre moteur de voiture, avec une efficacité qui ne sera jamais de 100% simplement à cause des lois de la physique.

Enfin, le principal postulat de cette théorie est lié à l'intelligence artificielle. Il suppose que si on crée une IA n°1 plus performante que nous, et qu'on lui demande de développer IA n°2, alors celle ci sera plus rapidement développée et plus perfectionnée. Ensuite IA 2 créé une IA 3 encore meilleure et encore plus rapidement, et quelques heures à peine plus tard IA 189756 est infiniment plus intelligente que nous. (Mal)heureusement, ce postulat n'est encore une fois basé sur aucune raison logique. Certes, pour la transition de IA 1 à 2 on peut supposer qu'un robot n'étant pas limité à la vitesse de nos 10 doigts pour taper, il pourrait coder une nouvelle IA plus rapidement que nous. Mais meilleure ? Pourquoi coderait-il mieux à partir de la même base de connaissances sur l'informatique et sur l'intelligence ? Concrètement qu'est-ce qui lui permettrait de faire mieux que nous avec les mêmes outils ? On a aucune garantie qu'il arriverait à faire un autre programme plus intelligent que lui même, et de plus passé cette première étape aucun n'indice n'indique que les suivantes seront de plus en plus rapides, les IA à chaque étape seraient limités par la puissance du matériel sur lequel ils tournent, et n'ont aucune raison de faire mieux que leur prédécesseur.

Concrètement c'est une théorie que la physique aurait pu démonter à l'époque de sa formulation, et dont l'Histoire maintenant tend à prouver l'imprécision.