Demande d'un moratoire sur le développement de l’IA (Sciences & Paranormal)
Source : Des sommités de la technologie demandent un moratoire sur le développement de l’IA
![[image]](https://i84.servimg.com/u/f84/10/06/79/32/intell10.jpg)
Dominique Degré
Publié le 29 mars 2023
Des centaines de grands noms du monde des technologies demandent dans une lettre ouverte de suspendre temporairement le développement de certains systèmes avancés d’intelligence artificielle (IA).
Les systèmes d’IA pouvant rivaliser avec l’intelligence humaine peuvent poser un grand risque pour l’humanité, plaident les quelque 1000 signataires de la lettre publiée par le Future of Life Institute, un organisme qui cherche à limiter les risques associés au développement des nouvelles technologies.
On compte parmi les signataires des spécialistes chevronnés comme le Montréalais Yoshua Bengio, ou encore des chefs d’entreprise comme Elon Musk et Steve Wozniak, cofondateur d’Apple.
Ils ne demandent pas à suspendre l’ensemble de la recherche sur l’intelligence artificielle, mais plutôt ce qui touche au développement des systèmes plus puissants que GPT-4 pendant au moins six mois. En très peu de temps, ChatGPT, développé par la firme OpenAI, a rapidement gagné en popularité grâce à ses capacités étonnantes… et ses ratés. Des recettes(Nouvelle fenêtre) aux travaux universitaires, le grand public a pu constater que ChatGPT est capable de comprendre des tâches qu’on croyait jusqu’ici être réservées au cerveau humain.
« Dans les derniers mois, les laboratoires d’intelligence artificielle se sont engagés dans une course effrénée pour développer et déployer des systèmes numériques toujours plus puissants que personne – pas même leurs créateurs – ne peut comprendre, prédire ou contrôler de manière fiable. »
— Une citation de Extrait de la lettre ouverte
Selon le registre de la transparence de l’Union européenne, le Future of Life Institute est principalement financé par la Musk Foundation, mais également par le groupe Founders Pledge et par la Silicon Valley Community Foundation. Le Future of Life Institute est lié à un organisme adepte de l’approche à très long terme (longtermism en anglais).
Le moratoire temporaire exigé par les signataires devrait être utilisé pour élaborer des protocoles de sécurité pour la conception et le développement de l’intelligence artificielle, comme la création d’entités pour réguler l’IA, des systèmes pour distinguer clairement le vrai du synthétique et des mécanismes pour déterminer à qui revient la responsabilité dans des cas où l’IA causerait des méfaits ou du tort.
« Ça va prendre des années »
À l'occasion d'une conférence de presse mercredi, le scientifique Yoshua Bengio, chercheur et fondateur de l'Institut québécois en intelligence artificielle (IA) Mila, a affirmé qu'une législation à l'échelle internationale est nécessaire : Ça va prendre des années, mais vu la vitesse à laquelle la technologie évolue, il faut commencer le plus tôt possible.
« Il y a des risques, il y a des dangers. C’est vraiment important de ne pas laisser ça à l’autorégulation, ce n’est pas suffisant. [...] Il faut que les compagnies puissent jouer sur le même terrain de jeu et cela demande que les gouvernements mettent des balises, mettent en place des mécanismes de surveillance, etc. »
— Une citation de Yoshua Bengio, spécialiste de l'intelligence artificielle
Selon lui, le problème de l'IA est comparable à la lutte contre les changements climatiques : Ça peut avoir l’air décourageant des fois, mais on a un devoir de faire tout ce qu’on peut pour essayer de réduire les risques et faire bouger la société dans le bon sens.
Dave Anctil, chercheur en intelligence artificielle et professeur de philosophie au Collège Jean-de-Brébeuf, croit que la réglementation de ces outils ne relève pas de l'utopie, mais il faut commencer quelque part. Selon lui, une trêve est nécessaire, car la société n'est pas prête à utiliser ces outils [...] [alors] qu'il y a une absence de réglementation et de législation.
« Il faut qu’il y ait une prise de conscience collective [...] qu’on est à un moment vraiment révolutionnaire dans la technologie de l’IA, parce qu’on a développé des outils très puissants et ça demande une réponse proportionnelle à ces capacités. »
— Une citation de Dave Anctil, chercheur en intelligence artificielle
De tels mécanismes sont d’autant plus importants que c'est l'une des industries les plus concentrées dans le monde, soulignait la semaine dernière Kate Crawford, spécialiste des implications sociales et politiques de l'intelligence artificielle, à l'occasion du lancement d’un livre intitulé Angles morts de la gouvernance de l'intelligence artificielle, publié conjointement par l'UNESCO et le Mila.
Selon Mme Crawford, six entreprises se partagent la vaste majorité de ce secteur.
À cela s’ajoutent les nombreuses questions éthiques soulevées par les logiciels d'hypertrucage (deep fakes), les systèmes qui génèrent des œuvres d’art en synthétisant des informations à partir d’œuvres existantes, les biais implicites (notamment raciaux) que peuvent assimiler les IA et les systèmes militaires pouvant localiser des cibles de manière autonome.
___________________________
Il y a évidemment un danger qu'il ne faut surtout pas écarter, c'est bien le dépassement de l'IA versus l'intelligence humaine. Le premier danger est sans contredit l'émotion puisqu'une machine, n'a aucune émotion pour l'instant. De plus, il ne faut pas non plus écarter la défaillance car cela demeure une invention humain et vu qu'il n'y a rien de parfait, il va falloir contrer ces défaillances surtout si ces robots intelligents ont une arme en portée de main !
Personnellement, je ne suis pas contre l'IA mais pour une seule raison scientifique, soit pour l'exploration spatiale. Si un jour l'humain trouve le moyen de pouvoir voyager dans l'espace avec la vitesse hyperespace, un robot pourrait facilement ne pas être défaillant avec une telle vitesse mais qui pour l'humain, pourrait être un danger imminent pour sa vie. Sans compter les autres dangers qui pourraient être encourus pour de telle exploration lointaine, comme par exemple, des représailles extraterrestres qui ne veulent pas se faire voir. 
L'IA pourrait aussi servir pour terraformer une planète en créant un environnement potable pour l'humain dans l'éventualité où il faudra nécessairement avoir des colons sidéraux. Le surpeuplement de notre planète par l'humain, ne devra pas être contrôlé par des psychopathes avec des guerres et des fratricides incessants. Tôt ou tard, il faudra coloniser une autre planète que de mourir étouffer par le surpeuplement.
L'IA devra être un outil pour l'humain et non contre l'humain !
Dédé
Y vont foncer dedans.... à fond la caisse...
Y vont foncer dedans.... à fond la caisse...
La mairesse de Montréal dans le lot de ceux qui plongent dans l'IA sans réfléchir...
Bonnes chances des cons-séquences...
C'est comme les nouveaux chars, on rajoute toujours de plus en plus de cochonneries électroniques, l'intelligence artificielle tant que tu veux...
TK, combat hélas perdu d'avance...
Dommage...
Remarquer que on devrait peut être donner une chance?
Remarquer que on devrait peut être donner une chance?
Éric I Don't caire, un flop total
Chose à la sécurité publique, inefficace
Machin aux transports pas fort
Folle Plante qui se vante d'une ligne rose imaginaire
Chose qui veut absolument un tunnel alors qu'un PONT est impérativement nécessaire au plus kalisse..
Si on donnerait l'IA au pouvoir... peut-être qu'elle réalisrait qu'on est dirigé par des kâlisse de mongols.....
Remarquer que on devrait peut être donner une chance?
Remarquer que on devrait peut être donner une chance?
Éric I Don't caire, un flop total
Chose à la sécurité publique, inefficace
Machin aux transports pas fort
Folle Plante qui se vante d'une ligne rose imaginaire
Chose qui veut absolument un tunnel alors qu'un PONT est impérativement nécessaire au plus kalisse..Si on donnerait l'IA au pouvoir... peut-être qu'elle réalisrait qu'on est dirigé par des kâlisse de mongols.....
_____________________
L'IA c'est bien beau mais ce n'est pas mieux si c'est programmé par un ti-clin !
ça peut pas être pire que Éric Don't care
Remarquer que on devrait peut être donner une chance?
Éric I Don't caire, un flop total
Chose à la sécurité publique, inefficace
Machin aux transports pas fort
Folle Plante qui se vante d'une ligne rose imaginaire
Chose qui veut absolument un tunnel alors qu'un PONT est impérativement nécessaire au plus kalisse..Si on donnerait l'IA au pouvoir... peut-être qu'elle réalisrait qu'on est dirigé par des kâlisse de mongols.....
_____________________
L'IA c'est bien beau mais ce n'est pas mieux si c'est programmé par un ti-clin !
ça peut pas être pire que Éric Don't care ça peut juste pas être pire...
Mon hypothèse, c'est qu'il a eut la job juste pour son LOOK, that's it that's all!
Roxette - The Look
https://www.youtube.com/watch?v=LlVI7ZNiFlI
téka les postes de ministres devraient être offert à des non élus... parce que on se retrouve avec une belle brochette d'insignifiants
ça peut pas être pire que Éric Don't care
Remarquer que on devrait peut être donner une chance?
Éric I Don't caire, un flop total
Chose à la sécurité publique, inefficace
Machin aux transports pas fort
Folle Plante qui se vante d'une ligne rose imaginaire
Chose qui veut absolument un tunnel alors qu'un PONT est impérativement nécessaire au plus kalisse..Si on donnerait l'IA au pouvoir... peut-être qu'elle réalisrait qu'on est dirigé par des kâlisse de mongols.....
_____________________
L'IA c'est bien beau mais ce n'est pas mieux si c'est programmé par un ti-clin !
ça peut pas être pire que Éric Don't care ça peut juste pas être pire...Mon hypothèse, c'est qu'il a eut la job juste pour son LOOK, that's it that's all!
Roxette - The Look
https://www.youtube.com/watch?v=LlVI7ZNiFlI
téka les postes de ministres devraient être offert à des non élus... parce que on se retrouve avec une belle brochette d'insignifiants
Non-élus? Attention! Le Duhaimagogue est un non-élu.
Remarquer que on devrait peut être donner une chance?
Remarquer que on devrait peut être donner une chance?
Éric I Don't caire, un flop total
Chose à la sécurité publique, inefficace
Machin aux transports pas fort
Folle Plante qui se vante d'une ligne rose imaginaire
Chose qui veut absolument un tunnel alors qu'un PONT est impérativement nécessaire au plus kalisse..Si on donnerait l'IA au pouvoir... peut-être qu'elle réalisrait qu'on est dirigé par des kâlisse de mongols.....
_____________________
L'IA c'est bien beau mais ce n'est pas mieux si c'est programmé par un ti-clin !
En plein ça et les ti-clins sur la planète, c'est pas ça qui manque.
Remarquer que on devrait peut être donner une chance?
Remarquer que on devrait peut être donner une chance?
Éric I Don't caire, un flop total
Chose à la sécurité publique, inefficace
Machin aux transports pas fort
Folle Plante qui se vante d'une ligne rose imaginaire
Chose qui veut absolument un tunnel alors qu'un PONT est impérativement nécessaire au plus kalisse..Si on donnerait l'IA au pouvoir... peut-être qu'elle réalisrait qu'on est dirigé par des kâlisse de mongols.....
_____________________
L'IA c'est bien beau mais ce n'est pas mieux si c'est programmé par un ti-clin !
En plein ça et les ti-clins sur la planète, c'est pas ça qui manque.
________________
Exactement, en plus, c'est 100% coucou ! 
Remarquer que on devrait peut être donner une chance?
Remarquer que on devrait peut être donner une chance?
Éric I Don't caire, un flop total
Chose à la sécurité publique, inefficace
Machin aux transports pas fort
Folle Plante qui se vante d'une ligne rose imaginaire
Chose qui veut absolument un tunnel alors qu'un PONT est impérativement nécessaire au plus kalisse..Si on donnerait l'IA au pouvoir... peut-être qu'elle réalisrait qu'on est dirigé par des kâlisse de mongols.....
_____________________
L'IA c'est bien beau mais ce n'est pas mieux si c'est programmé par un ti-clin !
En plein ça et les ti-clins sur la planète, c'est pas ça qui manque.
________________
Exactement, en plus, c'est 100% coucou !
Y vont foncer dedans.... à fond la caisse...
Y vont foncer dedans.... à fond la caisse...
La mairesse de Montréal dans le lot de ceux qui plongent dans l'IA sans réfléchir...
Bonnes chances des cons-séquences...
C'est comme les nouveaux chars, on rajoute toujours de plus en plus de cochonneries électroniques, l'intelligence artificielle tant que tu veux...
TK, combat hélas perdu d'avance...
Dommage...
_________________
Tant pis, on vivra le Terminator !
TERMININATOR 2
Y vont foncer dedans.... à fond la caisse...
La mairesse de Montréal dans le lot de ceux qui plongent dans l'IA sans réfléchir...
Bonnes chances des cons-séquences...
C'est comme les nouveaux chars, on rajoute toujours de plus en plus de cochonneries électroniques, l'intelligence artificielle tant que tu veux...
TK, combat hélas perdu d'avance...
Dommage...
_________________
Tant pis, on vivra le Terminator !
ça sera malheureusement mérité...
un chef d'oeuvre...
TERMININATOR 2
https://www.youtube.com/watch?v=Ofeq8SFtppU
si les humains prendrait plus que 30 secondes pour réfléchir des fois...
ben non, allons y avec des câmions électriques pour s'assurer de crisser le pont de québec dans le fond du fleuve en attendant le tûnel...
TERMININATOR 2
Y vont foncer dedans.... à fond la caisse...
La mairesse de Montréal dans le lot de ceux qui plongent dans l'IA sans réfléchir...
Bonnes chances des cons-séquences...
C'est comme les nouveaux chars, on rajoute toujours de plus en plus de cochonneries électroniques, l'intelligence artificielle tant que tu veux...
TK, combat hélas perdu d'avance...
Dommage...
_________________
Tant pis, on vivra le Terminator !
ça sera malheureusement mérité...
un chef d'oeuvre...TERMININATOR 2
si les humains prendrait plus que 30 secondes pour réfléchir des fois...ben non, allons y avec des câmions électriques pour s'assurer de crisser le pont de québec dans le fond du fleuve en attendant le tûnel...
_______________
Quoi, yé pas encore tombé ce pont-là ?
Une vraie piste cyclable sur le Pont de Québec serait trop l
Y vont foncer dedans.... à fond la caisse...
La mairesse de Montréal dans le lot de ceux qui plongent dans l'IA sans réfléchir...
Bonnes chances des cons-séquences...
C'est comme les nouveaux chars, on rajoute toujours de plus en plus de cochonneries électroniques, l'intelligence artificielle tant que tu veux...
TK, combat hélas perdu d'avance...
Dommage...
_________________
Tant pis, on vivra le Terminator !
ça sera malheureusement mérité...
un chef d'oeuvre...TERMININATOR 2
si les humains prendrait plus que 30 secondes pour réfléchir des fois...ben non, allons y avec des câmions électriques pour s'assurer de crisser le pont de québec dans le fond du fleuve en attendant le tûnel...
_______________
Quoi, yé pas encore tombé ce pont-là ?
une pissse cyclabe trop lourde, aweeille faisons passé les câmions électriques de la libârtés...
https://www.lesoleil.com/2023/03/31/une-vraie-piste-cyclable-sur-le-pont-de-quebec-sera...
Une vraie piste cyclable sur le Pont de Québec serait trop lourde
Pour faire une véritable piste cyclable dans les règles de l’art qui traverse le Pont de Québec, il faudrait construire une structure extérieure accrochée au pont actuel. Mais cela s’avérerait trop lourd, selon le ministère des Transports.
Autant le maire de Québec, Bruno Marchand, que celui de Lévis, Gilles Lehouillier, souhaitaient que le gouvernement du Québec aménage une piste cyclable digne de ce nom pour traverser le fleuve Saint-Laurent.
Jeudi, Le Soleil rapportait que l’option retenue par le ministère des Transports et de la Mobilité durable (MTMD) du Québec, dans ses grands travaux de réfection de ce secteur, consiste à élargir de 1,3 à 2,5 mètres la piste déjà existante.
À LIRE AUSSI
LA CAPITALE
Une nouvelle piste cyclable pour... marcher sur le pont
Une nouvelle piste cyclable pour... marcher sur le pont
31 mars 2023
Les cyclistes devront donc, selon la loi, continuer à descendre de leur bécane pour marcher sur la distance entière du pont.
« L’ajout d’une passerelle extérieure au pont a également été analysé », a expliqué le porte-parole du ministère au Soleil, Nicolas Vigneault, vendredi.
« Cette option comporte néanmoins de nombreux inconvénients comme l’ajout de poids, ce qui compromet l’intégrité de la structure, ainsi que la difficulté de l’entretenir l’hiver, pour ne nommer que ces exemples. Sa mise en place aurait nécessité des travaux de renforcement de la structure du pont », fait valoir M. Vigneault.
L’aménagement d’une structure extérieure accrochée au pont, c’est-à-dire en porte-à-faux, aurait ajouté du poids à la structure. Le réaménagement du tablier du pont, déjà prévu, alourdira déjà la structure existante.
« En ajoutant une piste cyclable en porte-à-faux, il aurait fallu faire des travaux de renforcement pour l’ensemble de la structure du pont. »
— Nicolas Vigneault, porte-parole du ministère des Transports et de la Mobilité durable du Québec
Le ministère ne voulait pas emprunter cette avenue. Surtout que le Pont de Québec a été désigné lieu historique national du Canada en 1995. Ce qui implique une protection supplémentaire au chapitre patrimonial.
« Ce n’est pas une question de volonté, on a regardé la possibilité. Mais on a retenu une solution beaucoup plus conviviale », résume le porte-parole du MTMD.
Dès jeudi, le maire de Lévis avait exprimé sa déception quant à cette décision.
« Le maire de Québec et moi répétons depuis plusieurs mois notre désir de mettre en place une piste cyclable interrives permettant aux citoyens des deux rives de se déplacer de façon sécuritaire et dynamique. La mobilité interrives est une priorité », a affirmé M. Lehouillier.
Une vraie piste cyclable sur le Pont de Québec serait trop l
Y vont foncer dedans.... à fond la caisse...
La mairesse de Montréal dans le lot de ceux qui plongent dans l'IA sans réfléchir...
Bonnes chances des cons-séquences...
C'est comme les nouveaux chars, on rajoute toujours de plus en plus de cochonneries électroniques, l'intelligence artificielle tant que tu veux...
TK, combat hélas perdu d'avance...
Dommage...
_________________
Tant pis, on vivra le Terminator !
ça sera malheureusement mérité...
un chef d'oeuvre...TERMININATOR 2
si les humains prendrait plus que 30 secondes pour réfléchir des fois...ben non, allons y avec des câmions électriques pour s'assurer de crisser le pont de québec dans le fond du fleuve en attendant le tûnel...
_______________
Quoi, yé pas encore tombé ce pont-là ?
une pissse cyclabe trop lourde, aweeille faisons passé les câmions électriques de la libârtés...
https://www.lesoleil.com/2023/03/31/une-vraie-piste-cyclable-sur-le-pont-de-quebec-sera...
Une vraie piste cyclable sur le Pont de Québec serait trop lourde
Pour faire une véritable piste cyclable dans les règles de l’art qui traverse le Pont de Québec, il faudrait construire une structure extérieure accrochée au pont actuel. Mais cela s’avérerait trop lourd, selon le ministère des Transports.
Autant le maire de Québec, Bruno Marchand, que celui de Lévis, Gilles Lehouillier, souhaitaient que le gouvernement du Québec aménage une piste cyclable digne de ce nom pour traverser le fleuve Saint-Laurent.Jeudi, Le Soleil rapportait que l’option retenue par le ministère des Transports et de la Mobilité durable (MTMD) du Québec, dans ses grands travaux de réfection de ce secteur, consiste à élargir de 1,3 à 2,5 mètres la piste déjà existante.
À LIRE AUSSI
LA CAPITALE
Une nouvelle piste cyclable pour... marcher sur le pont
Une nouvelle piste cyclable pour... marcher sur le pont
31 mars 2023
Les cyclistes devront donc, selon la loi, continuer à descendre de leur bécane pour marcher sur la distance entière du pont.
« L’ajout d’une passerelle extérieure au pont a également été analysé », a expliqué le porte-parole du ministère au Soleil, Nicolas Vigneault, vendredi.« Cette option comporte néanmoins de nombreux inconvénients comme l’ajout de poids, ce qui compromet l’intégrité de la structure, ainsi que la difficulté de l’entretenir l’hiver, pour ne nommer que ces exemples. Sa mise en place aurait nécessité des travaux de renforcement de la structure du pont », fait valoir M. Vigneault.
L’aménagement d’une structure extérieure accrochée au pont, c’est-à-dire en porte-à-faux, aurait ajouté du poids à la structure. Le réaménagement du tablier du pont, déjà prévu, alourdira déjà la structure existante.
« En ajoutant une piste cyclable en porte-à-faux, il aurait fallu faire des travaux de renforcement pour l’ensemble de la structure du pont. »
— Nicolas Vigneault, porte-parole du ministère des Transports et de la Mobilité durable du Québec
Le ministère ne voulait pas emprunter cette avenue. Surtout que le Pont de Québec a été désigné lieu historique national du Canada en 1995. Ce qui implique une protection supplémentaire au chapitre patrimonial.« Ce n’est pas une question de volonté, on a regardé la possibilité. Mais on a retenu une solution beaucoup plus conviviale », résume le porte-parole du MTMD.
Dès jeudi, le maire de Lévis avait exprimé sa déception quant à cette décision.
« Le maire de Québec et moi répétons depuis plusieurs mois notre désir de mettre en place une piste cyclable interrives permettant aux citoyens des deux rives de se déplacer de façon sécuritaire et dynamique. La mobilité interrives est une priorité », a affirmé M. Lehouillier.
La moitié de ce pont est tout rouillée. Peut-être mieux de pas prendre de chance.
In Éric Caire we Trust
![[image]](images/uploaded/20230404002216642b6db8eff64.jpg)
J'Ai le goût d'envoyer mon cv pour le remplacer avec lettre de motivation
Je ne peux pas faire pire...
![[image]](images/uploaded/20230404002357642b6e1d53b57.jpg)
encore surpris que le pont soit pas encore dans le fond du fleuve...
In Éric Caire we Trust
J'Ai le goût d'envoyer mon cv pour le remplacer avec lettre de motivation
Je ne peux pas faire pire...
encore surpris que le pont soit pas encore dans le fond du fleuve...
Oui, en effet.
Y vont foncer dedans.... à fond la caisse...
Y vont foncer dedans.... à fond la caisse...
La mairesse de Montréal dans le lot de ceux qui plongent dans l'IA sans réfléchir...
Bonnes chances des cons-séquences...
C'est comme les nouveaux chars, on rajoute toujours de plus en plus de cochonneries électroniques, l'intelligence artificielle tant que tu veux...
TK, combat hélas perdu d'avance...
Dommage...
Oui, ça va être game over pour nous.
Demande d'un moratoire sur le développement de l’IA
Source : Des sommités de la technologie demandent un moratoire sur le développement de l’IA
Dominique Degré
Publié le 29 mars 2023Des centaines de grands noms du monde des technologies demandent dans une lettre ouverte de suspendre temporairement le développement de certains systèmes avancés d’intelligence artificielle (IA).
Les systèmes d’IA pouvant rivaliser avec l’intelligence humaine peuvent poser un grand risque pour l’humanité, plaident les quelque 1000 signataires de la lettre publiée par le Future of Life Institute, un organisme qui cherche à limiter les risques associés au développement des nouvelles technologies.
On compte parmi les signataires des spécialistes chevronnés comme le Montréalais Yoshua Bengio, ou encore des chefs d’entreprise comme Elon Musk et Steve Wozniak, cofondateur d’Apple.
Ils ne demandent pas à suspendre l’ensemble de la recherche sur l’intelligence artificielle, mais plutôt ce qui touche au développement des systèmes plus puissants que GPT-4 pendant au moins six mois. En très peu de temps, ChatGPT, développé par la firme OpenAI, a rapidement gagné en popularité grâce à ses capacités étonnantes… et ses ratés. Des recettes(Nouvelle fenêtre) aux travaux universitaires, le grand public a pu constater que ChatGPT est capable de comprendre des tâches qu’on croyait jusqu’ici être réservées au cerveau humain.
« Dans les derniers mois, les laboratoires d’intelligence artificielle se sont engagés dans une course effrénée pour développer et déployer des systèmes numériques toujours plus puissants que personne – pas même leurs créateurs – ne peut comprendre, prédire ou contrôler de manière fiable. »
— Une citation de Extrait de la lettre ouverte
Selon le registre de la transparence de l’Union européenne, le Future of Life Institute est principalement financé par la Musk Foundation, mais également par le groupe Founders Pledge et par la Silicon Valley Community Foundation. Le Future of Life Institute est lié à un organisme adepte de l’approche à très long terme (longtermism en anglais).
Le moratoire temporaire exigé par les signataires devrait être utilisé pour élaborer des protocoles de sécurité pour la conception et le développement de l’intelligence artificielle, comme la création d’entités pour réguler l’IA, des systèmes pour distinguer clairement le vrai du synthétique et des mécanismes pour déterminer à qui revient la responsabilité dans des cas où l’IA causerait des méfaits ou du tort.
« Ça va prendre des années »
À l'occasion d'une conférence de presse mercredi, le scientifique Yoshua Bengio, chercheur et fondateur de l'Institut québécois en intelligence artificielle (IA) Mila, a affirmé qu'une législation à l'échelle internationale est nécessaire : Ça va prendre des années, mais vu la vitesse à laquelle la technologie évolue, il faut commencer le plus tôt possible.« Il y a des risques, il y a des dangers. C’est vraiment important de ne pas laisser ça à l’autorégulation, ce n’est pas suffisant. [...] Il faut que les compagnies puissent jouer sur le même terrain de jeu et cela demande que les gouvernements mettent des balises, mettent en place des mécanismes de surveillance, etc. »
— Une citation de Yoshua Bengio, spécialiste de l'intelligence artificielle
Selon lui, le problème de l'IA est comparable à la lutte contre les changements climatiques : Ça peut avoir l’air décourageant des fois, mais on a un devoir de faire tout ce qu’on peut pour essayer de réduire les risques et faire bouger la société dans le bon sens.Dave Anctil, chercheur en intelligence artificielle et professeur de philosophie au Collège Jean-de-Brébeuf, croit que la réglementation de ces outils ne relève pas de l'utopie, mais il faut commencer quelque part. Selon lui, une trêve est nécessaire, car la société n'est pas prête à utiliser ces outils [...] [alors] qu'il y a une absence de réglementation et de législation.
« Il faut qu’il y ait une prise de conscience collective [...] qu’on est à un moment vraiment révolutionnaire dans la technologie de l’IA, parce qu’on a développé des outils très puissants et ça demande une réponse proportionnelle à ces capacités. »
— Une citation de Dave Anctil, chercheur en intelligence artificielle
De tels mécanismes sont d’autant plus importants que c'est l'une des industries les plus concentrées dans le monde, soulignait la semaine dernière Kate Crawford, spécialiste des implications sociales et politiques de l'intelligence artificielle, à l'occasion du lancement d’un livre intitulé Angles morts de la gouvernance de l'intelligence artificielle, publié conjointement par l'UNESCO et le Mila.
Selon Mme Crawford, six entreprises se partagent la vaste majorité de ce secteur.
À cela s’ajoutent les nombreuses questions éthiques soulevées par les logiciels d'hypertrucage (deep fakes), les systèmes qui génèrent des œuvres d’art en synthétisant des informations à partir d’œuvres existantes, les biais implicites (notamment raciaux) que peuvent assimiler les IA et les systèmes militaires pouvant localiser des cibles de manière autonome.
___________________________Il y a évidemment un danger qu'il ne faut surtout pas écarter, c'est bien le dépassement de l'IA versus l'intelligence humaine. Le premier danger est sans contredit l'émotion puisqu'une machine, n'a aucune émotion pour l'instant. De plus, il ne faut pas non plus écarter la défaillance car cela demeure une invention humain et vu qu'il n'y a rien de parfait, il va falloir contrer ces défaillances surtout si ces robots intelligents ont une arme en portée de main !
Personnellement, je ne suis pas contre l'IA mais pour une seule raison scientifique, soit pour l'exploration spatiale. Si un jour l'humain trouve le moyen de pouvoir voyager dans l'espace avec la vitesse hyperespace, un robot pourrait facilement ne pas être défaillant avec une telle vitesse mais qui pour l'humain, pourrait être un danger imminent pour sa vie. Sans compter les autres dangers qui pourraient être encourus pour de telle exploration lointaine, comme par exemple, des représailles extraterrestres qui ne veulent pas se faire voir.
L'IA pourrait aussi servir pour terraformer une planète en créant un environnement potable pour l'humain dans l'éventualité où il faudra nécessairement avoir des colons sidéraux. Le surpeuplement de notre planète par l'humain, ne devra pas être contrôlé par des psychopathes avec des guerres et des fratricides incessants. Tôt ou tard, il faudra coloniser une autre planète que de mourir étouffer par le surpeuplement.
L'IA devra être un outil pour l'humain et non contre l'humain !
Dédé
L'humain étant ce qu'il est, s'il y a moratoire, ça va faire comme la Corée du Nord avec le nucléaire et ils travailleront sur l'IA en cachette.
Demande d'un moratoire sur le développement de l’IA
Source : Des sommités de la technologie demandent un moratoire sur le développement de l’IA
Dominique Degré
Publié le 29 mars 2023Des centaines de grands noms du monde des technologies demandent dans une lettre ouverte de suspendre temporairement le développement de certains systèmes avancés d’intelligence artificielle (IA).
Les systèmes d’IA pouvant rivaliser avec l’intelligence humaine peuvent poser un grand risque pour l’humanité, plaident les quelque 1000 signataires de la lettre publiée par le Future of Life Institute, un organisme qui cherche à limiter les risques associés au développement des nouvelles technologies.
On compte parmi les signataires des spécialistes chevronnés comme le Montréalais Yoshua Bengio, ou encore des chefs d’entreprise comme Elon Musk et Steve Wozniak, cofondateur d’Apple.
Ils ne demandent pas à suspendre l’ensemble de la recherche sur l’intelligence artificielle, mais plutôt ce qui touche au développement des systèmes plus puissants que GPT-4 pendant au moins six mois. En très peu de temps, ChatGPT, développé par la firme OpenAI, a rapidement gagné en popularité grâce à ses capacités étonnantes… et ses ratés. Des recettes(Nouvelle fenêtre) aux travaux universitaires, le grand public a pu constater que ChatGPT est capable de comprendre des tâches qu’on croyait jusqu’ici être réservées au cerveau humain.
« Dans les derniers mois, les laboratoires d’intelligence artificielle se sont engagés dans une course effrénée pour développer et déployer des systèmes numériques toujours plus puissants que personne – pas même leurs créateurs – ne peut comprendre, prédire ou contrôler de manière fiable. »
— Une citation de Extrait de la lettre ouverte
Selon le registre de la transparence de l’Union européenne, le Future of Life Institute est principalement financé par la Musk Foundation, mais également par le groupe Founders Pledge et par la Silicon Valley Community Foundation. Le Future of Life Institute est lié à un organisme adepte de l’approche à très long terme (longtermism en anglais).
Le moratoire temporaire exigé par les signataires devrait être utilisé pour élaborer des protocoles de sécurité pour la conception et le développement de l’intelligence artificielle, comme la création d’entités pour réguler l’IA, des systèmes pour distinguer clairement le vrai du synthétique et des mécanismes pour déterminer à qui revient la responsabilité dans des cas où l’IA causerait des méfaits ou du tort.
« Ça va prendre des années »
À l'occasion d'une conférence de presse mercredi, le scientifique Yoshua Bengio, chercheur et fondateur de l'Institut québécois en intelligence artificielle (IA) Mila, a affirmé qu'une législation à l'échelle internationale est nécessaire : Ça va prendre des années, mais vu la vitesse à laquelle la technologie évolue, il faut commencer le plus tôt possible.« Il y a des risques, il y a des dangers. C’est vraiment important de ne pas laisser ça à l’autorégulation, ce n’est pas suffisant. [...] Il faut que les compagnies puissent jouer sur le même terrain de jeu et cela demande que les gouvernements mettent des balises, mettent en place des mécanismes de surveillance, etc. »
— Une citation de Yoshua Bengio, spécialiste de l'intelligence artificielle
Selon lui, le problème de l'IA est comparable à la lutte contre les changements climatiques : Ça peut avoir l’air décourageant des fois, mais on a un devoir de faire tout ce qu’on peut pour essayer de réduire les risques et faire bouger la société dans le bon sens.Dave Anctil, chercheur en intelligence artificielle et professeur de philosophie au Collège Jean-de-Brébeuf, croit que la réglementation de ces outils ne relève pas de l'utopie, mais il faut commencer quelque part. Selon lui, une trêve est nécessaire, car la société n'est pas prête à utiliser ces outils [...] [alors] qu'il y a une absence de réglementation et de législation.
« Il faut qu’il y ait une prise de conscience collective [...] qu’on est à un moment vraiment révolutionnaire dans la technologie de l’IA, parce qu’on a développé des outils très puissants et ça demande une réponse proportionnelle à ces capacités. »
— Une citation de Dave Anctil, chercheur en intelligence artificielle
De tels mécanismes sont d’autant plus importants que c'est l'une des industries les plus concentrées dans le monde, soulignait la semaine dernière Kate Crawford, spécialiste des implications sociales et politiques de l'intelligence artificielle, à l'occasion du lancement d’un livre intitulé Angles morts de la gouvernance de l'intelligence artificielle, publié conjointement par l'UNESCO et le Mila.
Selon Mme Crawford, six entreprises se partagent la vaste majorité de ce secteur.
À cela s’ajoutent les nombreuses questions éthiques soulevées par les logiciels d'hypertrucage (deep fakes), les systèmes qui génèrent des œuvres d’art en synthétisant des informations à partir d’œuvres existantes, les biais implicites (notamment raciaux) que peuvent assimiler les IA et les systèmes militaires pouvant localiser des cibles de manière autonome.
___________________________Il y a évidemment un danger qu'il ne faut surtout pas écarter, c'est bien le dépassement de l'IA versus l'intelligence humaine. Le premier danger est sans contredit l'émotion puisqu'une machine, n'a aucune émotion pour l'instant. De plus, il ne faut pas non plus écarter la défaillance car cela demeure une invention humain et vu qu'il n'y a rien de parfait, il va falloir contrer ces défaillances surtout si ces robots intelligents ont une arme en portée de main !
Personnellement, je ne suis pas contre l'IA mais pour une seule raison scientifique, soit pour l'exploration spatiale. Si un jour l'humain trouve le moyen de pouvoir voyager dans l'espace avec la vitesse hyperespace, un robot pourrait facilement ne pas être défaillant avec une telle vitesse mais qui pour l'humain, pourrait être un danger imminent pour sa vie. Sans compter les autres dangers qui pourraient être encourus pour de telle exploration lointaine, comme par exemple, des représailles extraterrestres qui ne veulent pas se faire voir.
L'IA pourrait aussi servir pour terraformer une planète en créant un environnement potable pour l'humain dans l'éventualité où il faudra nécessairement avoir des colons sidéraux. Le surpeuplement de notre planète par l'humain, ne devra pas être contrôlé par des psychopathes avec des guerres et des fratricides incessants. Tôt ou tard, il faudra coloniser une autre planète que de mourir étouffer par le surpeuplement.
L'IA devra être un outil pour l'humain et non contre l'humain !
Dédé
L'humain étant ce qu'il est, s'il y a moratoire, ça va faire comme la Corée du Nord avec le nucléaire et ils travailleront sur l'IA en cachette.
___________________
Malheureusement, je suis bien d'accord avec cette assertion. 
On va tous mouru encore une autre fois !
Demande d'un moratoire sur le développement de l’IA
Source : Des sommités de la technologie demandent un moratoire sur le développement de l’IA
Dominique Degré
Publié le 29 mars 2023Des centaines de grands noms du monde des technologies demandent dans une lettre ouverte de suspendre temporairement le développement de certains systèmes avancés d’intelligence artificielle (IA).
Les systèmes d’IA pouvant rivaliser avec l’intelligence humaine peuvent poser un grand risque pour l’humanité, plaident les quelque 1000 signataires de la lettre publiée par le Future of Life Institute, un organisme qui cherche à limiter les risques associés au développement des nouvelles technologies.
On compte parmi les signataires des spécialistes chevronnés comme le Montréalais Yoshua Bengio, ou encore des chefs d’entreprise comme Elon Musk et Steve Wozniak, cofondateur d’Apple.
Ils ne demandent pas à suspendre l’ensemble de la recherche sur l’intelligence artificielle, mais plutôt ce qui touche au développement des systèmes plus puissants que GPT-4 pendant au moins six mois. En très peu de temps, ChatGPT, développé par la firme OpenAI, a rapidement gagné en popularité grâce à ses capacités étonnantes… et ses ratés. Des recettes(Nouvelle fenêtre) aux travaux universitaires, le grand public a pu constater que ChatGPT est capable de comprendre des tâches qu’on croyait jusqu’ici être réservées au cerveau humain.
« Dans les derniers mois, les laboratoires d’intelligence artificielle se sont engagés dans une course effrénée pour développer et déployer des systèmes numériques toujours plus puissants que personne – pas même leurs créateurs – ne peut comprendre, prédire ou contrôler de manière fiable. »
— Une citation de Extrait de la lettre ouverte
Selon le registre de la transparence de l’Union européenne, le Future of Life Institute est principalement financé par la Musk Foundation, mais également par le groupe Founders Pledge et par la Silicon Valley Community Foundation. Le Future of Life Institute est lié à un organisme adepte de l’approche à très long terme (longtermism en anglais).
Le moratoire temporaire exigé par les signataires devrait être utilisé pour élaborer des protocoles de sécurité pour la conception et le développement de l’intelligence artificielle, comme la création d’entités pour réguler l’IA, des systèmes pour distinguer clairement le vrai du synthétique et des mécanismes pour déterminer à qui revient la responsabilité dans des cas où l’IA causerait des méfaits ou du tort.
« Ça va prendre des années »
À l'occasion d'une conférence de presse mercredi, le scientifique Yoshua Bengio, chercheur et fondateur de l'Institut québécois en intelligence artificielle (IA) Mila, a affirmé qu'une législation à l'échelle internationale est nécessaire : Ça va prendre des années, mais vu la vitesse à laquelle la technologie évolue, il faut commencer le plus tôt possible.« Il y a des risques, il y a des dangers. C’est vraiment important de ne pas laisser ça à l’autorégulation, ce n’est pas suffisant. [...] Il faut que les compagnies puissent jouer sur le même terrain de jeu et cela demande que les gouvernements mettent des balises, mettent en place des mécanismes de surveillance, etc. »
— Une citation de Yoshua Bengio, spécialiste de l'intelligence artificielle
Selon lui, le problème de l'IA est comparable à la lutte contre les changements climatiques : Ça peut avoir l’air décourageant des fois, mais on a un devoir de faire tout ce qu’on peut pour essayer de réduire les risques et faire bouger la société dans le bon sens.Dave Anctil, chercheur en intelligence artificielle et professeur de philosophie au Collège Jean-de-Brébeuf, croit que la réglementation de ces outils ne relève pas de l'utopie, mais il faut commencer quelque part. Selon lui, une trêve est nécessaire, car la société n'est pas prête à utiliser ces outils [...] [alors] qu'il y a une absence de réglementation et de législation.
« Il faut qu’il y ait une prise de conscience collective [...] qu’on est à un moment vraiment révolutionnaire dans la technologie de l’IA, parce qu’on a développé des outils très puissants et ça demande une réponse proportionnelle à ces capacités. »
— Une citation de Dave Anctil, chercheur en intelligence artificielle
De tels mécanismes sont d’autant plus importants que c'est l'une des industries les plus concentrées dans le monde, soulignait la semaine dernière Kate Crawford, spécialiste des implications sociales et politiques de l'intelligence artificielle, à l'occasion du lancement d’un livre intitulé Angles morts de la gouvernance de l'intelligence artificielle, publié conjointement par l'UNESCO et le Mila.
Selon Mme Crawford, six entreprises se partagent la vaste majorité de ce secteur.
À cela s’ajoutent les nombreuses questions éthiques soulevées par les logiciels d'hypertrucage (deep fakes), les systèmes qui génèrent des œuvres d’art en synthétisant des informations à partir d’œuvres existantes, les biais implicites (notamment raciaux) que peuvent assimiler les IA et les systèmes militaires pouvant localiser des cibles de manière autonome.
___________________________Il y a évidemment un danger qu'il ne faut surtout pas écarter, c'est bien le dépassement de l'IA versus l'intelligence humaine. Le premier danger est sans contredit l'émotion puisqu'une machine, n'a aucune émotion pour l'instant. De plus, il ne faut pas non plus écarter la défaillance car cela demeure une invention humain et vu qu'il n'y a rien de parfait, il va falloir contrer ces défaillances surtout si ces robots intelligents ont une arme en portée de main !
Personnellement, je ne suis pas contre l'IA mais pour une seule raison scientifique, soit pour l'exploration spatiale. Si un jour l'humain trouve le moyen de pouvoir voyager dans l'espace avec la vitesse hyperespace, un robot pourrait facilement ne pas être défaillant avec une telle vitesse mais qui pour l'humain, pourrait être un danger imminent pour sa vie. Sans compter les autres dangers qui pourraient être encourus pour de telle exploration lointaine, comme par exemple, des représailles extraterrestres qui ne veulent pas se faire voir.
L'IA pourrait aussi servir pour terraformer une planète en créant un environnement potable pour l'humain dans l'éventualité où il faudra nécessairement avoir des colons sidéraux. Le surpeuplement de notre planète par l'humain, ne devra pas être contrôlé par des psychopathes avec des guerres et des fratricides incessants. Tôt ou tard, il faudra coloniser une autre planète que de mourir étouffer par le surpeuplement.
L'IA devra être un outil pour l'humain et non contre l'humain !
Dédé
L'humain étant ce qu'il est, s'il y a moratoire, ça va faire comme la Corée du Nord avec le nucléaire et ils travailleront sur l'IA en cachette.
___________________
Malheureusement, je suis bien d'accord avec cette assertion.
On va tous mouru encore une autre fois !
un moratoire sur Éric i Don't Caire...
je propose un moratoire sur tout projet de près ou de loin que touche ÉRic I Don't caire
C'est un fiasco sur toute la ligne, tant au niveau de l'Efficacité que des communications... mais c'est jamais de sa faute...
![[image]](images/uploaded/20230404003101642b6fc544e53.jpg)
un moratoire sur Éric i Don't Caire...
je propose un moratoire sur tout projet de près ou de loin que touche ÉRic I Don't caire
C'est un fiasco sur toute la ligne, tant au niveau de l'Efficacité que des communications... mais c'est jamais de sa faute...
Caire dans le garde-robe au pc.