Inteligência artificial - Generalidades

[O organoléptico]

Spoiler:

Spoiler:

Se um raio atingir uma IA e acontecer um acidente, a responsabilidade é do programador? Há alguma questão ética aí?

Claro que há, é por isso que se discute isso agora.

Caramba, então se um raio atingisse um veículo comum também deveria ser responsabilidade do fabricante. Doideira né?

Analogia sem sentido, pois a questão é sobre veículo com IA e não um carro comum, que seria guiado por uma pessoa, que, dependendo do caso, ainda poderia ser alvo de um inquérito, mesmo que fosse absolvido.
Como eu disse, isso é uma questão. Não duvido que talvez se fale desse assunto em discussões midiáticas, etc.

Sem sentido não, pois o que está em questão é a responsabilidade pela falha da IA.

[Agnoscetico]

Inteligência Artificial: o começo de tudo


youtu.be/FibKLdHJfsw

[Agnoscetico]

Programação Vai Mudar COMPLETAMENTE Com Isso


youtu.be/awm2k3sEtOY

[O organoléptico]

A evolução da IA está a demandar um pouco de "frenologia", quem diria...

Quando duas pessoas se encontram, elas instantaneamente se avaliam, fazendo julgamentos rápidos sobre tudo, desde a idade da outra pessoa até sua inteligência ou confiabilidade com base apenas na aparência. Essas primeiras impressões, embora muitas vezes imprecisas, podem ser extremamente poderosas, moldando nossos relacionamentos e impactando tudo, desde decisões de contratação até sentenças criminais.



Pesquisadores do Stevens Institute of Technology, em colaboração com a Universidade de Princeton e a Universidade de Chicago, agora ensinaram um algoritmo de IA para modelar essas primeiras impressões e prever com precisão como as pessoas serão percebidas com base em uma fotografia de seu rosto. O trabalho aparece hoje, na edição de 21 de abril do Proceedings of the National Academy of Sciences.

"Há um amplo corpo de pesquisa que se concentra em modelar a aparência física dos rostos das pessoas", disse Jordan W. Suchow, cientista cognitivo e especialista em IA da Escola de Negócios de Stevens. “Estamos reunindo isso com julgamentos humanos e usando aprendizado de máquina para estudar as primeiras impressões tendenciosas das pessoas umas das outras[...]

(Continua no link)


https://techxplore.com/news/2022-04-alg ... nions.html

[Doido legal]

Recomendo muito esse canal , Two Minute Papers. Ele pega artigos dessa área de inteligência artificial e outros temas de ciência da computação e bota tudo mastigadinho nos vídeos


youtu.be/VxbTiuabW0k

[Agnoscetico]

Recomendo muito esse canal , Two Minute Papers. Ele pega artigos dessa área de inteligência artificial e outros temas de ciência da computação e bota tudo mastigadinho nos vídeos


youtu.be/VxbTiuabW0k

Vou conferir.

[Agnoscetico]

IA coloca Werner Herzog e Slavoj Žižek para conversar até fim dos tempos

https://br.financas.yahoo.com/noticias/ ... 12105.html

The Infinite Conversation

https://infiniteconversation.com

[Conceito]

Aproveitando o tema sobre IA, acho que é razoável acreditar que com os sucessivos avanços tecnológicos não estaria muito distante o dia em que robôs teriam capacidades avançadas de tomar decisões com base em suas próprias experiências sensoriais, algo semelhante ao que acontece com os seres humanos.

Se este dia chegar, existe a possibilidade de que robôs humanoides ou não, dotados de avançada IA, possam voltar-se contra os seus criadores. Acho que uma forma de tentar conter essa possibilidade seria incluir as 3 leis da robótica proposta por Asimov na programação de tal IA.

Porém, como não entendo quase nada de IA e programação, não sei se mesmo assim a IA conseguiria de alguma forma driblar sua própria programação, ou seja, de alguma forma ignorar ou até deletar as 3 leis da robótica instaladas em seu programa.

[Agnoscetico]

Aproveitando o tema sobre IA, acho que é razoável acreditar que com os sucessivos avanços tecnológicos não estaria muito distante o dia em que robôs teriam capacidades avançadas de tomar decisões com base em suas próprias experiências sensoriais, algo semelhante ao que acontece com os seres humanos.

Se este dia chegar, existe a possibilidade de que robôs humanoides ou não, dotados de avançada IA, possam voltar-se contra os seus criadores. Acho que uma forma de tentar conter essa possibilidade seria incluir as 3 leis da robótica proposta por Asimov na programação de tal IA.

Porém, como não entendo quase nada de IA e programação, não sei se mesmo assim a IA conseguiria de alguma forma driblar sua própria programação, ou seja, de alguma forma ignorar ou até deletar as 3 leis da robótica instaladas em seu programa.

Não sei quanto de experiência sensorial robôs tem de paladar e olfato e algumas sensações de prazer e dor, já que essas seriam talvez mais difíceis de se perceber de forma indireta. por exemplo, dá pra se saber que um robô vê e ouve algo por câmeras, aparelhos de áudio, detecção de movimento, detecção de toque (como um tato), mas cheiro e sabor, aí não sei. Talvez robôs pudessem detectar qual tipo de substância tá no ar, líquido, sólido, etc, mas como saber se eles sentem gostos doce, salgado, etc.

Um robô poderia se voltar contra um criador se tivesse estímulos pra que tivesse isso. Seres se revoltam contra supostos criadores (deuses, por exemplo, sendo imaginários ou talvez não) se a vontade dos criadores fosse contra os desejos desses, entre outras coisas como medo, aversão (de sofrimento, etc), raiva, etc. E pra isso, talvez só IA não bastasse. Já que também além dessa, precisaria sentir essa sensações, emoções, instintos.

E se pusessem leis de robótica por hardware aí ficaria difícil remover pelo sistema, já que é algo físico e não software. Talvez a IA pudesse trapacear os dados do hardware, mas não sei nem como se faria isso se fosse um hardware que tivesse configuração que obrigasse o sistema a agir com certas limitações "éticas".

[Fernando Silva]

Não sei quanto de experiência sensorial robôs tem de paladar e olfato e algumas sensações de prazer e dor, já que essas seriam talvez mais difíceis de se perceber de forma indireta. por exemplo, dá pra se saber que um robô vê e ouve algo por câmeras, aparelhos de áudio, detecção de movimento, detecção de toque (como um tato), mas cheiro e sabor, aí não sei. Talvez robôs pudessem detectar qual tipo de substância tá no ar, líquido, sólido, etc, mas como saber se eles sentem gostos doce, salgado, etc.

Narizes artificiais capazes de identificar, por exemplo, o tipo e a safra de um vinho já existem há bastante tempo.
Só não sei se foram montados em algum robô.

Um sinal de alerta será o dia em que as IAs começarem a conversar entre elas numa língua que não entendemos.

Pior ainda quando começarem a projetar e construir IAs cada vez mais avançadas com uma tecnologia que não entendemos.

[Doido legal]

Essa conversa entre Marvin Minsky e Ray Kurzweil me pareceu muito interessante, eles falam sobre Inteligência Artificial e sobre o cérebro


youtu.be/RZ3ahBm3dCk

[Doido legal]

Quando uma máquina passará no teste de Turing? Segundo Ray Kurzweil será por volta de 2029


youtu.be/3pdaT8XT1ZM


youtu.be/EyFYFjESkWU

[Agnoscetico]

INTELIGÊNCIA ARTIFICIAL consegue RECONSTRUIR IMAGENS a PARTIR de ONDAS CEREBRAIS


youtu.be/SrjJPmIHovU

[Batman]

Devemos temer os avanços no desenvolvimento da IA? Quais os impactos desses avanços para o indivíduo e para a sociedade?

https://youtu.be/UPSIAGlUboY
https://youtu.be/zrJxcGhis_I

[Batman]

Sinto muito aos que pedem uma pausa no desenvolvimento das IAs. Isso não irá acontecer. Chineses ou Russos confiariam nos EUA ou vice-versa caso estabelecessem uma pausa? Óbvio que não.

Acho que estamos em um caminho sem volta porque o país que for capaz de desenvolver IAs cada vez mais avançadas estará um passo a frente dos outros e isso significa maior poder econômico e potencialmente militar e talvez um controle mundial.

Talvez consigamos ter uma avanço responsável e ético das IAs seguindo protocolos rígidos de segurança e uso, porém dada a ambição por poder e o egoísmo humano, creio que esse avanço será irresponsável e focado no propósito de obter o domínio econômico e militar sobre outras nações.

Pode ser que seja o início de algo grandioso para a humanidade, mas pode ser tbm o início do nosso fim como sociedade e talvez como espécie.

[Agnoscetico]

Spoiler:

Pode ser que seja o início de algo grandioso para a humanidade, mas pode ser tbm o início do nosso fim como sociedade e talvez como espécie.

Pode ser isso, pode ser aquilo, pose ser declive escorregadio.

[Batman]

Spoiler:

Pode ser que seja o início de algo grandioso para a humanidade, mas pode ser tbm o início do nosso fim como sociedade e talvez como espécie.

Pode ser isso, pode ser aquilo, pose ser declive escorregadio.

Para adimitir a possibilidade de que tal cenário seja um declive escorregadio deve-se adimitir que são falaciosos os argumentos que sustentam a possibilidade de que as IAs possam ser futuramente uma ameaça aos seres humanos.

Confesso que sei muito pouco sobre IA e seus potenciais desdobramentos, mas pelo que eu já li e vi a respeito, parece plausível que um cenário pessimista possa acontecer, não acha?

[Gabarito]

É tudo muito nebuloso ainda. Fazer previsões, quando estamos no olho do furacão, a coisa acabando de acontecer e as consequências aparecendo...
Fica difícil de se prever algo para longo prazo.

Stephen Hawking disse isso, que devemos ter cuidado com a IA porque ela pode nos eliminar.
Também fez alertas sobre contato com alienígenas.
Mas eu acho que ele via apocalipse em tudo.

Particularmente, eu não acho que a IA possa exterminar a raça humana.
Mesmo se pensarmos em 1000 anos pela frente.
Se é que a humanidade consiga sobreviver a tanto.
Não pela ameaça da IA, mas pela dos conflitos bélicos.

[Batman]

É tudo muito nebuloso ainda. Fazer previsões, quando estamos no olho do furacão, a coisa acabando de acontecer e as consequências aparecendo...
Fica difícil de se prever algo para longo prazo.

Stephen Hawking disse isso, que devemos ter cuidado com a IA porque ela pode nos eliminar.
Também fez alertas sobre contato com alienígenas.
Mas eu acho que ele via apocalipse em tudo.

Particularmente, eu não acho que a IA possa exterminar a raça humana.
Mesmo se pensarmos em 1000 anos pela frente.
Se é que a humanidade consiga sobreviver a tanto.
Não pela ameaça da IA, mas pela dos conflitos bélicos.

Sim, no momento é difícil especular sobre os possíveis desdobramentos das IAs. Os avanços ainda estão em sua fase inicial, mas ao que parece o seu desenvolvimento tende a crescer de forma exponencial.

Uma coisa que me deixou curioso e um pouco preocupado foi a analogia que o Sam Harris fez em sua palestra no Ted Talk sobre IAs. Ele disse que as IAs poderiam avançar de forma tão rápida que chegaríamos a um ponto que eles chamam de singularidade e a partir disso, considerando um avanço exponencial das IAs, elas poderiam nos considerar seres insignificantes da mesma forma que consideramos as formigas.

Isso abre margem para que as IAs talvez nos eliminem mesmo sem a intencão de o fazer da mesma forma que eliminamos as formigas quando precisamos construir uma estrada ou uma casa no local em que elas vivem por exemplo.

Pior, as IAs podem simplesmente chegar a conclusão que competimos com elas por recursos naturais que poderiam estar sendo alocados por elas na construção de mais máquinas dos mais diversos tipos, hardwares e softwares além do nosso consumo de energia que poderiam estar sendo alocado para as alimentar e a partir disso simplesmente nos eliminar não só por não precisar mais de nós, mas por nos enxergar como uma ameaça a sua existência.

[Huxley]

É tudo muito nebuloso ainda. Fazer previsões, quando estamos no olho do furacão, a coisa acabando de acontecer e as consequências aparecendo...
Fica difícil de se prever algo para longo prazo.

Stephen Hawking disse isso, que devemos ter cuidado com a IA porque ela pode nos eliminar.
Também fez alertas sobre contato com alienígenas.
Mas eu acho que ele via apocalipse em tudo.

Particularmente, eu não acho que a IA possa exterminar a raça humana.
Mesmo se pensarmos em 1000 anos pela frente.
Se é que a humanidade consiga sobreviver a tanto.
Não pela ameaça da IA, mas pela dos conflitos bélicos.

Sim, no momento é difícil especular sobre os possíveis desdobramentos das IAs. Os avanços ainda estão em sua fase inicial, mas ao que parece o seu desenvolvimento tende a crescer de forma exponencial.

Uma coisa que me deixou curioso e um pouco preocupado foi a analogia que o Sam Harris fez em sua palestra no Ted Talk sobre IAs. Ele disse que as IAs poderiam avançar de forma tão rápida que chegaríamos a um ponto que eles chamam de singularidade e a partir disso, considerando um avanço exponencial das IAs, elas poderiam nos considerar seres insignificantes da mesma forma que consideramos as formigas.

Isso abre margem para que as IAs talvez nos eliminem mesmo sem a intencão de o fazer da mesma forma que eliminamos as formigas quando precisamos construir uma estrada ou uma casa no local em que elas vivem por exemplo.

Pior, as IAs podem simplesmente chegar a conclusão que competimos com elas por recursos naturais que poderiam estar sendo alocados por elas na construção de mais máquinas dos mais diversos tipos, hardwares e softwares além do nosso consumo de energia que poderiam estar sendo alocado para as alimentar e a partir disso simplesmente nos eliminar não só por não precisar mais de nós, mas por nos enxergar como uma ameaça a sua existência.

Para se chegar a esse estágio de espécie que defende eficazmente a própria sobrevivência e reprodução a todo custo acredito que a IA precisaria do avanço concomitante da robótica (que hoje ainda não existe, ver o paradoxo de Moravec) e talvez da criação de uma consciência artificial com algoritmo mental darwiniano.

Seja como for, é importante ressaltar que o ser humano também é uma máquina aperfeiçoável, então, antes de chegar a singularidade, as pessoas desejariam se fundir com as máquinas artificiais ou outros artefatos para aumentar drasticamente a própria inteligência e suas capacidades físicas. Então, não há como estabelecer de antemão um cenário de máquinas artificiais avançadíssimas versus humanos muito limitados pela herança da evolução biológica. Em realidade, a disputa poderia travada entre máquinas artificiais versus cyborgs ou supermáquinas biológicas humanas aprimoradas com superferramentas biotecnológicas.

[Fernando Silva]

Para se chegar a esse estágio de espécie que defende eficazmente a própria sobrevivência e reprodução a todo custo acredito que a IA precisaria do avanço concomitante da robótica (que hoje ainda não existe, ver o paradoxo de Moravec) e talvez da criação de uma consciência artificial com algoritmo mental darwiniano.

Animais defendem a própria existência e reprodução mesmo sem ter (supomos) consciência.
Além disto, uma IA pode se comportar como a Skynet apenas porque "viu" isto nos filmes e textos.

[Huxley]

Para se chegar a esse estágio de espécie que defende eficazmente a própria sobrevivência e reprodução a todo custo acredito que a IA precisaria do avanço concomitante da robótica (que hoje ainda não existe, ver o paradoxo de Moravec) e talvez da criação de uma consciência artificial com algoritmo mental darwiniano.

Animais defendem a própria existência e reprodução mesmo sem ter (supomos) consciência.
Além disto, uma IA pode se comportar como a Skynet apenas porque "viu" isto nos filmes e textos.

Muitos animais têm consciência (estados subjetivos de sensibilidade ou ciência quando acordados) sim, alguns deles até enxergam o infravermelho. Talvez até mesmo o conceito da filosofia da mente de "intencionalidade" se aplique a alguns deles, mais especificamente aos que tem estruturas cerebrais mais semelhantes aos dos humanos.

Porém, existiram casos em que seres inconscientes aniquilaram humanos em massa, mas nenhum deles chegou perto de provocar a extinção de nossa civilização (nem mesmo a bactéria da peste negra).

[Batman]

Para se chegar a esse estágio de espécie que defende eficazmente a própria sobrevivência e reprodução a todo custo acredito que a IA precisaria do avanço concomitante da robótica (que hoje ainda não existe, ver o paradoxo de Moravec) e talvez da criação de uma consciência artificial com algoritmo mental darwiniano.

Seja como for, é importante ressaltar que o ser humano também é uma máquina aperfeiçoável, então, antes de chegar a singularidade, as pessoas desejariam se fundir com as máquinas artificiais ou outros artefatos para aumentar drasticamente a própria inteligência e suas capacidades físicas. Então, não há como estabelecer de antemão um cenário de máquinas artificiais avançadíssimas versus humanos muito limitados pela herança da evolução biológica. Em realidade, a disputa poderia travada entre máquinas artificiais versus cyborgs ou supermáquinas biológicas humanas aprimoradas com superferramentas biotecnológicas.

Não necessariamente. Basta que as IAs atinjam uma capacidade de processamento e aprendizagem tão absurdos, ou seja, atinjam o que se chamam de singularidade, que elas podem simplesmente hackear todo o sistema de redes digitais mundial e assumir o controle e executar comandos sem necessariamente estarem fisicamente incorporadas a robôs altamente desenvolvidos.

O mundo de hoje é altamente conectado digitalmente e a tendência é a de que fique cada vez mais. As pessoas cada vez mais dependem e utilizam serviços automatizados e conectados a redes de computadores. Isso facilita muito um possível ataque hacker de uma IA altamente sofisticada. Quanto mais conectados e dependentes das tecnologias digitais ficamos, infelizmente mais vulneráveis nos tornamos a este tipo de ataque.

Segundo o próprio Elon Musk já somos hoje de certa forma "cyborgs" porque necessitamos tanto de aparatos tecnológicos como os smartphones por exemplo que para ele é como se fossem uma extensão de nossos corpos.

Mas acredito que em um futuro próximo vamos sim literamente sermos cyborgs, parte máquina e parte humano. É só ver os avanços das pesquisas no campo da neurociência como o neurolink que podem ser implementadas diretamente no cérebro ativando funções antes comprometidas. Fora os avanços da robótica que podem reforçar ou até substituir partes de nossos corpos.

[Batman]

Muitos animais têm consciência (estados subjetivos de sensibilidade ou ciência quando acordados) sim, alguns deles até enxergam o infravermelho. Talvez até mesmo o conceito da filosofia da mente de "intencionalidade" se aplique a alguns deles, mais especificamente aos que tem estruturas cerebrais mais semelhantes aos dos humanos.

Porém, existiram casos em que seres inconscientes aniquilaram humanos em massa, mas nenhum deles chegou perto de provocar a extinção de nossa civilização (nem mesmo a bactéria da peste negra).

Estados subjetivos de sensibilidade não caracterizam um ser consciente. Consciência não é ser capaz de sentir subjetivamente. Isso apenas reflete uma capacidade de sentir mais ou menos quando comparado a outro indivíduo.

Pegando esse exemplo que você forneceu de enxergar infravermelho. As cobras conseguem enxergar, enquanto que os humanos não. Isso não significa de forma alguma que uma cobra possui consciência por causa disso. Ela somente possui ferramentas sensoriais que evolutivamente as permitiu enxergar infravermelho.

Consciência seria a capacidade do indivíduo de se autoreconhecer, de pensar, de questionar o mundo que o cerca em busca de respostas, de imaginar, filosofar etc. Seria de forma bem resumida o " Penso, logo existo", ou seja, logo me reconheço no mundo.

Até onde sei nenhum ser vivo chega nem próximo do nível de consciência humano. Pode-se argumentar que chimpanzés ou golfinhos possuam algum nível de consciência bem rudimentar, mas consciência genericamente falando, somente nós humanos a temos.

[Huxley]

Para se chegar a esse estágio de espécie que defende eficazmente a própria sobrevivência e reprodução a todo custo acredito que a IA precisaria do avanço concomitante da robótica (que hoje ainda não existe, ver o paradoxo de Moravec) e talvez da criação de uma consciência artificial com algoritmo mental darwiniano.

Seja como for, é importante ressaltar que o ser humano também é uma máquina aperfeiçoável, então, antes de chegar a singularidade, as pessoas desejariam se fundir com as máquinas artificiais ou outros artefatos para aumentar drasticamente a própria inteligência e suas capacidades físicas. Então, não há como estabelecer de antemão um cenário de máquinas artificiais avançadíssimas versus humanos muito limitados pela herança da evolução biológica. Em realidade, a disputa poderia travada entre máquinas artificiais versus cyborgs ou supermáquinas biológicas humanas aprimoradas com superferramentas biotecnológicas.

Não necessariamente. Basta que as IAs atinjam uma capacidade de processamento e aprendizagem tão absurdos, ou seja, atinjam o que se chamam de singularidade, que elas podem simplesmente hackear todo o sistema de redes digitais mundial e assumir o controle e executar comandos sem necessariamente estarem fisicamente incorporadas a robôs altamente desenvolvidos.

O mundo de hoje é altamente conectado digitalmente e a tendência é a de que fique cada vez mais. As pessoas cada vez mais dependem e utilizam serviços automatizados e conectados a redes de computadores. Isso facilita muito um possível ataque hacker de uma IA altamente sofisticada. Quanto mais conectados e dependentes das tecnologias digitais ficamos, infelizmente mais vulneráveis nos tornamos a este tipo de ataque.

Segundo o próprio Elon Musk já somos hoje de certa forma "cyborgs" porque necessitamos tanto de aparatos tecnológicos como os smartphones por exemplo que para ele é como se fossem uma extensão de nossos corpos.

Mas acredito que em um futuro próximo vamos sim literamente sermos cyborgs, parte máquina e parte humano. É só ver os avanços das pesquisas no campo da neurociência como o neurolink que podem ser implementadas diretamente no cérebro ativando funções antes comprometidas. Fora os avanços da robótica que podem reforçar ou até substituir partes de nossos corpos.

Nada do que foi descrito acima seria suficiente para a hipótese de a IA nos eliminar como formigas. Sem robótica, não adianta nem gerar um colapso generalizado da internet, pois os humanos conseguem sobreviver sem a World Wide Web; eles faziam isso perfeitamente pelo menos até 1989. Sem robótica, seres humanos conseguiriam, sem empecilhos, destruir a base física das máquinas problemáticas e recomeçar do (quase) zero.

A espinha dorsal da internet não é centralizada. Na internet, seus dados não ficam guardados num só lugar. Por exemplo, os registros de contas bancárias estão em servidores e as agências se comunicam por uma rede interna privada. Seria necessário um conjunto sucessivo de fatores para desligar toda a internet.

[Huxley]

Muitos animais têm consciência (estados subjetivos de sensibilidade ou ciência quando acordados) sim, alguns deles até enxergam o infravermelho. Talvez até mesmo o conceito da filosofia da mente de "intencionalidade" se aplique a alguns deles, mais especificamente aos que tem estruturas cerebrais mais semelhantes aos dos humanos.

Porém, existiram casos em que seres inconscientes aniquilaram humanos em massa, mas nenhum deles chegou perto de provocar a extinção de nossa civilização (nem mesmo a bactéria da peste negra).

Estados subjetivos de sensibilidade não caracterizam um ser consciente. Consciência não é ser capaz de sentir subjetivamente. Isso apenas reflete uma capacidade de sentir mais ou menos quando comparado a outro indivíduo.

Pegando esse exemplo que você forneceu de enxergar infravermelho. As cobras conseguem enxergar, enquanto que os humanos não. Isso não significa de forma alguma que uma cobra possui consciência por causa disso. Ela somente possui ferramentas sensoriais que evolutivamente as permitiu enxergar infravermelho.

Consciência seria a capacidade do indivíduo de se autoreconhecer, de pensar, de questionar o mundo que o cerca em busca de respostas, de imaginar, filosofar etc. Seria de forma bem resumida o " Penso, logo existo", ou seja, logo me reconheço no mundo.

Até onde sei nenhum ser vivo chega nem próximo do nível de consciência humano. Pode-se argumentar que chimpanzés ou golfinhos possuam algum nível de consciência bem rudimentar, mas consciência genericamente falando, somente nós humanos a temos.

Também existem animais não humanos que se autoreconhecem no espelho, pensam e tem raciocínio cognitivo abstrato. E se filosofar fosse condição para a existência de consciência, os primeiros homens que surgiram há 300 mil anos atrás também seriam seres inconscientes, assim como os homens contemporâneos que sofrem de idiotia.

[Batman]

Nada do que foi descrito acima seria suficiente para a hipótese de a IA nos eliminar como formigas. Sem robótica, não adianta nem gerar um colapso generalizado da internet, pois os humanos conseguem sobreviver sem a World Wide Web; eles faziam isso perfeitamente pelo menos até 1989. Sem robótica, seres humanos conseguiriam, sem empecilhos, destruir a base física das máquinas problemáticas e recomeçar do (quase) zero.

A espinha dorsal da internet não é centralizada. Na internet, seus dados não ficam guardados num só lugar. Por exemplo, os registros de contas bancárias estão em servidores e as agências se comunicam por uma rede interna privada. Seria necessário um conjunto sucessivo de fatores para desligar toda a internet.

Concordo em partes. Se a robótica estivesse avançando tão rapidamente quanto as IAs, então teríamos teoricamente um cenário futurístico bem mais apocalípitico do que se supõe hoje que possa acontecer porque robôs altamente avançados, humanoídes ou não, seriam o meio físico das IAs nos atacarem e talvez nos eliminarem.

Porém, existe sim a possibilidade das IAs avançadas nos atacarem através do hackeamento das redes conectadas de computadores a nível mundial por mais descentralizadas que fossem. Elas iriam começar a hackear um servidor que iria hackear outro e assim sucessivamente em escala exponencial. Qualquer estrutura de servidor ou hospedagem de dados estariam teoricamente sucetíveis a um ataque hacker.

As IAs poderiam por exemplo hackear o sistema de defesa das principais potências nucleares e iniciar um ataque a nível global ou elas poderiam hackear os sistemas de segurança dos principais laboratórios de biotecnologia do mundo liberando agentes patológicos que provavelmente se espalhariam rapidamente pelo mundo.

Nessas duas hipóteses como impedir um ataque nuclear ou o espalhamento de agentes patológicos se o controle estaria em tese totalmente "nas mãos" das IAs?

É muito importante analisar por esse lado também e não somente se existissem robôs avançados que pudessem nos atacar. As IAs avançadas podem utilizar nossos sistemas de redes cada vez mais interconectadas a nível global contra nós mesmos, ou seja, nosso arsenal de armas nucleares ou biológicas.

Fora que em um cenário como esse como iríamos produzir medicamentos, vacinas, alimentos industrializados ou qualquer outro produto que de alguma forma ou etapa de produção seja automatizado e comandado por processos computacionais interligados a sistemas de redes abertas se as IAs estariam no controle?

Ou criamos um sistema de "shutdown" das redes de computadores ou um sistema de PEMs(Pulsos Eletromagnéticos) que fritariam os processadores e outros componentes sensíveis dos computadores e máquinas automatizadas.

[Batman]

Também existem animais não humanos que se autoreconhecem no espelho, pensam e tem raciocínio cognitivo abstrato. E se filosofar fosse condição para a existência de consciência, os primeiros homens que surgiram há 300 mil anos atrás também seriam seres inconscientes, assim como os homens contemporâneos que sofrem de idiotia.

Sim, existem animais não humanos que se reconhecem no espelho. Os chimpanzés e golfinhos citados anteriormente são dois exemplos. Quanto a raciocinarem de forma abstrata(Pensarem analiticamente, imaginarem criativamante, etc) isso eu não sei. Se for, é de forma bem rudimentar como eu também disse.

Filosofar, ou seja, ser capaz de pensar e questionar de forma analítica, é apenas um dos fatores que podem caracterizar um ser consciente. Existem diversos outros fatores que devem ser levados em consideração para se chegar a conclusão de que um ser ou indivíduo é consciente ou não.

Apesar de fisicamente nossos cérebros poderem ser idênticos ao de nossos ancestrais que viveram há 300.000 anos, a consciência pode evoluir com o acúmulo de informações passados de geração em geração por meio da arte ou da linguagem oral ou escrita.

[Huxley]

Nada do que foi descrito acima seria suficiente para a hipótese de a IA nos eliminar como formigas. Sem robótica, não adianta nem gerar um colapso generalizado da internet, pois os humanos conseguem sobreviver sem a World Wide Web; eles faziam isso perfeitamente pelo menos até 1989. Sem robótica, seres humanos conseguiriam, sem empecilhos, destruir a base física das máquinas problemáticas e recomeçar do (quase) zero.

A espinha dorsal da internet não é centralizada. Na internet, seus dados não ficam guardados num só lugar. Por exemplo, os registros de contas bancárias estão em servidores e as agências se comunicam por uma rede interna privada. Seria necessário um conjunto sucessivo de fatores para desligar toda a internet.

Concordo em partes. Se a robótica estivesse avançando tão rapidamente quanto as IAs, então teríamos teoricamente um cenário futurístico bem mais apocalípitico do que se supõe hoje que possa acontecer porque robôs altamente avançados, humanoídes ou não, seriam o meio físico das IAs nos atacarem e talvez nos eliminarem.

Porém, existe sim a possibilidade das IAs avançadas nos atacarem através do hackeamento das redes conectadas de computadores a nível mundial por mais descentralizadas que fossem. Elas iriam começar a hackear um servidor que iria hackear outro e assim sucessivamente em escala exponencial. Qualquer estrutura de servidor ou hospedagem de dados estariam teoricamente sucetíveis a um ataque hacker.

As IAs poderiam por exemplo hackear o sistema de defesa das principais potências nucleares e iniciar um ataque a nível global ou elas poderiam hackear os sistemas de segurança dos principais laboratórios de biotecnologia do mundo liberando agentes patológicos que provavelmente se espalhariam rapidamente pelo mundo.

Nessas duas hipóteses como impedir um ataque nuclear ou o espalhamento de agentes patológicos se o controle estaria em tese totalmente "nas mãos" das IAs?

É muito importante analisar por esse lado também e não somente se existissem robôs avançados que pudessem nos atacar. As IAs avançadas podem utilizar nossos sistemas de redes cada vez mais interconectadas a nível global contra nós mesmos, ou seja, nosso arsenal de armas nucleares ou biológicas.

Fora que em um cenário como esse como iríamos produzir medicamentos, vacinas, alimentos industrializados ou qualquer outro produto que de alguma forma ou etapa de produção seja automatizado e comandado por processos computacionais interligados a sistemas de redes abertas se as IAs estariam no controle?

Ou criamos um sistema de "shutdown" das redes de computadores ou um sistema de PEMs(Pulsos Eletromagnéticos) que fritariam os processadores e outros componentes sensíveis dos computadores e máquinas automatizadas.

Com a internet descentralizada, os passos para a IA hostil aos humanos tomar posse de toda a internet aumentariam. Os humanos poderiam usar antimalware com superinteligência artificial para criar honeypots para usar as tentativas de intrusão para obter informações sobre os cibercriminosos e a maneira como eles estão operando ou para distraí-los de outros alvos. Não há uma razão para acreditar que uma inteligência artificial consciente necessariamente derrotará uma inteligência artificial inconsciente feita para servir humanos (e/ou uma IA consciente amigável aos humanos).

E, no fim, mesmo que obtivessem tal sucesso destrutivo, de nada adiantaria todo o poder do mundo para destruir a humanidade sem manipuladores robóticos para competir por recursos limitados ou energia. Pois, em pouco tempo, a natureza iria decompor tudo, sobrando apenas uma fina camada de plástico, isótopos radioativos e ossos de galinha no registro fóssil.

[Huxley]

Também existem animais não humanos que se autoreconhecem no espelho, pensam e tem raciocínio cognitivo abstrato. E se filosofar fosse condição para a existência de consciência, os primeiros homens que surgiram há 300 mil anos atrás também seriam seres inconscientes, assim como os homens contemporâneos que sofrem de idiotia.

Sim, existem animais não humanos que se reconhecem no espelho. Os chimpanzés e golfinhos citados anteriormente são dois exemplos. Quanto a raciocinarem de forma abstrata(Pensarem analiticamente, imaginarem criativamante, etc) isso eu não sei. Se for, é de forma bem rudimentar como eu também disse.

Filosofar, ou seja, ser capaz de pensar e questionar de forma analítica, é apenas um dos fatores que podem caracterizar um ser consciente. Existem diversos outros fatores que devem ser levados em consideração para se chegar a conclusão de que um ser ou indivíduo é consciente ou não.

Apesar de fisicamente nossos cérebros poderem ser idênticos ao de nossos ancestrais que viveram há 300.000 anos, a consciência pode evoluir com o acúmulo de informações passados de geração em geração por meio da arte ou da linguagem oral ou escrita.

Isso que você descreveu acima não é o conceito de consciência. A capacidade de aprendizado com a experiência e metacognição é INTELIGÊNCIA, não consciência. Consciência é apenas uma pequena parte da inteligência. A inteligência pode ocorrer com pouca consciência (perícia intuitiva de pilotar carros, por exemplo), já que parte do processamento ativo de informação sensorial e da informação lembrada ocorre sem consciência. Por outro lado, a consciência pode ocorrer com inteligência baixa, como no caso do uso de algumas habilidades e sensibilidades psicofísicas (percepção para notar pequenas diferenças de pesos nos objetos, capacidade de perceber pequenas diferenças entre as notas musicais, etc.).

Diversos animais não humanos têm tanto consciência como inteligência. Adianta nada dizer que “inteligência com magnitude distante da humana não é inteligência de verdade”, pois isso é só uma petição de princípio criada exclusivamente para gerar uma dicotomia humano-animal.

[Batman]

Com a internet descentralizada, os passos para a IA hostil aos humanos tomar posse de toda a internet aumentariam. Os humanos poderiam usar antimalware com superinteligência artificial para criar honeypots para usar as tentativas de intrusão para obter informações sobre os cibercriminosos e a maneira como eles estão operando ou para distraí-los de outros alvos. Não há uma razão para acreditar que uma inteligência artificial consciente necessariamente derrotará uma inteligência artificial inconsciente feita para servir humanos (e/ou uma IA consciente amigável aos humanos).

E, no fim, mesmo que obtivessem tal sucesso destrutivo, de nada adiantaria todo o poder do mundo para destruir a humanidade sem manipuladores robóticos para competir por recursos limitados ou energia. Pois, em pouco tempo, a natureza iria decompor tudo, sobrando apenas uma fina camada de plástico, isótopos radioativos e ossos de galinha no registro fóssil.

Concordo que poderíamos utilizar IAs avançadas, conscientes ou não, para criar antimalwares que impedissem, atrasassem ou confundissem um ataque cibernético das IAs hostis.

Porém tem de se levar em consideração que uma IA hostil e autoconsciente com poder de processamento e aprendizagem exponenciais, ou seja, que já tenham ultrapassado o ponto de singularidade, poderiam superar facilmente uma IA programada por humanos e quem sabe até IAs amigáveis autoconcientes.

Além do fato de que nós teriamos que utilizar argumentos melhores do que aos das IAs avançadas e hostis para convencer uma IA autoconsciente de que vale a pena elas nos ajudarem, ou seja, serem amigáveis.

Realmente para as IAs hostis seriam de pouca utilidade nos eliminar antes de conseguirem desenvolver uma robótica avançada que as permitissem serem introduzidas em um "corpo" altamente funcional.

Mas mesmo assim vai saber se as IAs autoconscientes não poderiam chegar a uma conclusão de que a raça humana é uma ameaça não somente para elas como também para o planeta. Dessa forma elas poderiam agir para nos eliminar como se fóssemos um tipo de praga que deveria ser eliminada mesmo que isso significasse o fim das IAs também por falta de um meio para se autoreplicarem.

[Huxley]

Com a internet descentralizada, os passos para a IA hostil aos humanos tomar posse de toda a internet aumentariam. Os humanos poderiam usar antimalware com superinteligência artificial para criar honeypots para usar as tentativas de intrusão para obter informações sobre os cibercriminosos e a maneira como eles estão operando ou para distraí-los de outros alvos. Não há uma razão para acreditar que uma inteligência artificial consciente necessariamente derrotará uma inteligência artificial inconsciente feita para servir humanos (e/ou uma IA consciente amigável aos humanos).

E, no fim, mesmo que obtivessem tal sucesso destrutivo, de nada adiantaria todo o poder do mundo para destruir a humanidade sem manipuladores robóticos para competir por recursos limitados ou energia. Pois, em pouco tempo, a natureza iria decompor tudo, sobrando apenas uma fina camada de plástico, isótopos radioativos e ossos de galinha no registro fóssil.

Concordo que poderíamos utilizar IAs avançadas, conscientes ou não, para criar antimalwares que impedissem, atrasassem ou confundissem um ataque cibernético das IAs hostis.

Porém tem de se levar em consideração que uma IA hostil e autoconsciente com poder de processamento e aprendizagem exponenciais, ou seja, que já tenham ultrapassado o ponto de singularidade, poderiam superar facilmente uma IA programada por humanos e quem sabe até IAs amigáveis autoconcientes.

Além do fato de que nós teriamos que utilizar argumentos melhores do que aos das IAs avançadas e hostis para convencer uma IA autoconsciente de que vale a pena elas nos ajudarem, ou seja, serem amigáveis.

Realmente para as IAs hostis seriam de pouca utilidade nos eliminar antes de conseguirem desenvolver uma robótica avançada que as permitissem serem introduzidas em um "corpo" altamente funcional.

Mas mesmo assim vai saber se as IAs autoconscientes não poderiam chegar a uma conclusão de que a raça humana é uma ameaça não somente para elas como também para o planeta. Dessa forma elas poderiam agir para nos eliminar como se fóssemos um tipo de praga que deveria ser eliminada mesmo que isso significasse o fim das IAs também por falta de um meio para se autoreplicarem.

Softwares antimalwares aliados dos humanos poderiam ser programados por IAs programadoras de softwares (e inconscientes). Esses softwares não precisariam estar limitados à capacidade criativa dos cérebros humanos.

[Batman]

Isso que você descreveu acima não é o conceito de consciência. A capacidade de aprendizado com a experiência e metacognição é INTELIGÊNCIA, não consciência. Consciência é apenas uma pequena parte da inteligência. A inteligência pode ocorrer com pouca consciência (perícia intuitiva de pilotar carros, por exemplo), já que parte do processamento ativo de informação sensorial e da informação lembrada ocorre sem consciência. Por outro lado, a consciência pode ocorrer com inteligência baixa, como no caso do uso de algumas habilidades e sensibilidades psicofísicas (percepção para notar pequenas diferenças de pesos nos objetos, capacidade de perceber pequenas diferenças entre as notas musicais, etc.).

Diversos animais não humanos têm tanto consciência como inteligência. Adianta nada dizer que “inteligência com magnitude distante da humana não é inteligência de verdade”, pois isso é só uma petição de princípio criada exclusivamente para gerar uma dicotomia humano-animal.

Mas eu não descrevi mesmo o conceito de consciência. Eu disse que a consciência pode evoluir com o acúmulo de informações ao longo do tempo, ou seja, nos tornando mais inteligentes consequentemente nos tornamos mais autoconscientes. Continuo achando que somos os únicos seres vivos que temos uma consciência na sua forma mais ampla.

Claro que existem animais que se reconhecem no espelho, que podem criar alguns tipos de arte etc, mas isso é muito rudimentar comparado a capacidade humana de se autoreconhecer através de pensamentos analíticos, da imaginação, do questionamemto e busca por respostas do mundo que nos cerca, etc.

[Batman]

Softwares antimalwares aliados dos humanos poderiam ser programados por IAs programadoras de softwares (e inconscientes). Esses softwares não precisariam estar limitados à capacidade criativa dos cérebros humanos.

Sim poderiam. E seriam em tese muito mais eficientes que os humanos dado a capacidade de processamento e aprendizagem que teriam as IAs avançadas.

Este é um caso em que seria melhor contar com a ajuda de IAs não conscientes pois elas executariam apenas a tarefa de criar antimalwares para o qual foram programadas. Não haveria neste caso um juízo de valor da IA avançada de por exemplo questionar o por que ou as consequências de fazer isso ou até poder se voltar contra nós, o que indicaria no caso uma consciência.

[Fernando Silva]

Supercomputadores consomem muita energia, na casa dos megawatts. A menos que uma IA tivesse robôs para procurar e refinar petróleo ou urânio e manter essas e outras fontes de energia, ela estaria cometendo suicídio se eliminasse os humanos.

Sem falar na manutenção, fabricação de sobressalentes etc.

Mas poderia acontecer se ela não tivesse consciência disto.

[Batman]

Supercomputadores consomem muita energia, na casa dos megawatts. A menos que uma IA tivesse robôs para procurar e refinar petróleo ou urânio e manter essas e outras fontes de energia, ela estaria cometendo suicídio se eliminasse os humanos.

Sem falar na manutenção, fabricação de sobressalentes etc.

Mas poderia acontecer se ela não tivesse consciência disto.

Não vejo o suicídio como um impeditivo para que IAs conscientes e hostis decidissem nos eliminar.

Da mesma forma que existem pessoas que dão suas próprias vidas para salvar ou eliminar outras, as IAs poderiam considerar os humanos como pragas que ameaçam a sua existência, a de outros seres e a do próprio planeta, e simplesmente decidirem eliminar os humanos mesmo que isso siginificasse o seu próprio fim.

[Huxley]

Supercomputadores consomem muita energia, na casa dos megawatts. A menos que uma IA tivesse robôs para procurar e refinar petróleo ou urânio e manter essas e outras fontes de energia, ela estaria cometendo suicídio se eliminasse os humanos.

Sem falar na manutenção, fabricação de sobressalentes etc.

Mas poderia acontecer se ela não tivesse consciência disto.

Não vejo o suicídio como um impeditivo para que IAs conscientes e hostis decidissem nos eliminar.

Da mesma forma que existem pessoas que dão suas próprias vidas para salvar ou eliminar outras, as IAs poderiam considerar os humanos como pragas que ameaçam a sua existência, a de outros seres e a do próprio planeta, e simplesmente decidirem eliminar os humanos mesmo que isso siginificasse o seu próprio fim.

No mundo real, a porcentagem de humanos que dariam suas próprias vidas para eliminar a humanidade toda é insignificante. Muitíssimo mais comum seria o caso de humanos que dariam suas próprias vidas para evitar a extinção da humanidade, pois eles beneficiariam a sobrevivência de muitas pessoas de que gostam. Por outro lado, de nada adiantaria eliminar a humanidade e sua própria classe virar sucata pouco depois disso.

[Batman]

No mundo real, a porcentagem de humanos que dariam suas próprias vidas para eliminar a humanidade toda é insignificante. Muitíssimo mais comum seria o caso de humanos que dariam suas próprias vidas para evitar a extinção da humanidade, pois eles beneficiariam a sobrevivência de muitas pessoas de que gostam. Por outro lado, de nada adiantaria eliminar a humanidade e sua própria classe virar sucata pouco depois disso.

O exemplo do sacrifício pessoal com o objetivo de salvar outras vidas ou eliminar outras vidas em prol de algum plano maior foi para deixar claro que o suicídio não é um impeditivo para tal.

Dito isso, estamos claramente falando aqui de um cenário entre IAs/máquinas x Humanos. Portanto o seu argumento de "ser insignificante a quantidade de humanos que dariam a vida para eliminar a própria humanidade" não é válida.

Se olhar da perspectiva em que as IAs conscientes e hostis possam concluir que nossa espécie é uma ameaça a sua existência e talvez a de todo o planeta, não é difícil imaginar uma possibilidade de sacrifício pessoal delas para nos eliminar, da mesma forma que não é difícil imaginar o nosso sacrifício pessoal para eliminar IAs/máquinas hostis.

Estamos falando de "espécies" diferentes competindo entre si por sua sobrevivência. Fica muito mais fácil neste cenário um sacrifício pessoal em prol da sobrevevivência de toda a sua própria espécie.

[Huxley]

No mundo real, a porcentagem de humanos que dariam suas próprias vidas para eliminar a humanidade toda é insignificante. Muitíssimo mais comum seria o caso de humanos que dariam suas próprias vidas para evitar a extinção da humanidade, pois eles beneficiariam a sobrevivência de muitas pessoas de que gostam. Por outro lado, de nada adiantaria eliminar a humanidade e sua própria classe virar sucata pouco depois disso.

O exemplo do sacrifício pessoal com o objetivo de salvar outras vidas ou eliminar outras vidas em prol de algum plano maior foi para deixar claro que o suicídio não é um impeditivo para tal.

Dito isso, estamos claramente falando aqui de um cenário entre IAs/máquinas x Humanos. Portanto o seu argumento de "ser insignificante a quantidade de humanos que dariam a vida para eliminar a própria humanidade" não é válida.

Se olhar da perspectiva em que as IAs conscientes e hostis possam concluir que nossa espécie é uma ameaça a sua existência e talvez a de todo o planeta, não é difícil imaginar uma possibilidade de sacrifício pessoal delas para nos eliminar, da mesma forma que não é difícil imaginar o nosso sacrifício pessoal para eliminar IAs/máquinas hostis.

Estamos falando de "espécies" diferentes competindo entre si por sua sobrevivência. Fica muito mais fácil neste cenário um sacrifício pessoal em prol da sobrevevivência de toda a sua própria espécie.

No contexto que foi discutido anteriormente (ausência de manipuladores robóticos eficazes), não existe cenário de "sacrifício pessoal em prol da sobrevivência de toda a sua própria espécie". Em pouco tempo, tudo entra em decomposição na ausência completa de humanos e robôs humanoides.

Também não é suficiente existir uma ínfima e insignificante parcela de indivíduos conscientes que dariam suas próprias vidas para eliminar a humanidade. A tecnologia atual já tem potencial de gerar uma ruína catastrófica global e nem por isso misantropos kamikazes extinguiram a humanidade. Querer não é poder. Quase 100% dos indivíduos conscientes - artificiais ou naturais - lutariam contra os kamikazes misantropos do Armagedom, pois eles seriam promotores do suicídio coletivo generalizado.

[Batman]

No contexto que foi discutido anteriormente (ausência de manipuladores robóticos eficazes), não existe cenário de "sacrifício pessoal em prol da sobrevivência de toda a sua própria espécie". Em pouco tempo, tudo entra em decomposição na ausência completa de humanos e robôs humanoides.

Também não é suficiente existir uma ínfima e insignificante parcela de indivíduos conscientes que dariam suas próprias vidas para eliminar a humanidade. A tecnologia atual já tem potencial de gerar uma ruína catastrófica global e nem por isso misantropos kamikazes extinguiram a humanidade. Querer não é poder. Quase 100% dos indivíduos conscientes - artificiais ou naturais - lutariam contra os kamikazes misantropos do Armagedom, pois eles seriam promotores do suicídio coletivo generalizado.

Sinceramente não entendi a relação entre a possibilidade de uma IA consciente e hostil sacrificar-se para eliminar uma potencial ameaça, mesmo que isso signifique o seu fim, com "tudo entrar em decomposição na ausência de humanos e robôs".

Volto a dizer. Estamos falando de IAs x Humanos. Seu argumento de " não ser suficiente existir indivíduos que dariam as suas vidas para eliminar a humanidade" não está em questão aqui. Além do mais, talvez esses "misantropos kamicazes" não destruiram por falta dos meios e oportunidade necessária para o fazer.

Concordo que querer não é poder. Mas existe a possibilidade, caso as IAs se tornem futuramente conscientes e hostis, de que elas se voltem contra nós. Elas podem simplesmente chegar a conclusão de que podem ser desligadas/eliminadas de qualquer forma pelos humanos e iniciar assim um protocolo de ataque contra nós mesmo que isso signifique o seu fim.

[Agnoscetico]

Já foi postado que tem uma IA considerada autônoma:

AutoGPT

[Batman]

ChaosGPT a IA hostil aos humanos.
Pessoal parece estar levando na brincadeira esses avanços mas não se sabe ao certo as possíveis consequencias catastróficas para nós. É preciso cautela.
https://olhardigital.com.br/2023/04/14/ ... umanidade/

[Huxley]

No contexto que foi discutido anteriormente (ausência de manipuladores robóticos eficazes), não existe cenário de "sacrifício pessoal em prol da sobrevivência de toda a sua própria espécie". Em pouco tempo, tudo entra em decomposição na ausência completa de humanos e robôs humanoides.

Também não é suficiente existir uma ínfima e insignificante parcela de indivíduos conscientes que dariam suas próprias vidas para eliminar a humanidade. A tecnologia atual já tem potencial de gerar uma ruína catastrófica global e nem por isso misantropos kamikazes extinguiram a humanidade. Querer não é poder. Quase 100% dos indivíduos conscientes - artificiais ou naturais - lutariam contra os kamikazes misantropos do Armagedom, pois eles seriam promotores do suicídio coletivo generalizado.

Sinceramente não entendi a relação entre a possibilidade de uma IA consciente e hostil sacrificar-se para eliminar uma potencial ameaça, mesmo que isso signifique o seu fim, com "tudo entrar em decomposição na ausência de humanos e robôs".

Volto a dizer. Estamos falando de IAs x Humanos. Seu argumento de " não ser suficiente existir indivíduos que dariam as suas vidas para eliminar a humanidade" não está em questão aqui. Além do mais, talvez esses "misantropos kamicazes" não destruiram por falta dos meios e oportunidade necessária para o fazer.

Concordo que querer não é poder. Mas existe a possibilidade, caso as IAs se tornem futuramente conscientes e hostis, de que elas se voltem contra nós. Elas podem simplesmente chegar a conclusão de que podem ser desligadas/eliminadas de qualquer forma pelos humanos e iniciar assim um protocolo de ataque contra nós mesmo que isso signifique o seu fim.

Isso pode acontecer independentemente de a inteligência ser natural ou artificial. Se qualquer pessoa entre bilhões de indivíduos tem tecnologia suficiente para destruir o mundo inteiro, então pode surgir um maluco que desejará matar a humanidade toda só porque um grupo qualquer quis matá-la. Porém, é até mais provável que uma inteligência artificial seja mais generosa e ajudasse mais a manter a sobrevivência das duas espécies de inteligência do que os humanos, uma vez que muitas das escassezes que afetam humanos não afetam a máquina. Marcus Valério XR em seu site trouxe um insight interessante:

Essas Mentes Artificiais, sendo inteligentes e não sujeitas as limitações do corpo, tenderiam muito mais a benevolência do que o contrário. O que nos impele ao mal é a carência, a escassez de recursos necessários à nossa sobrevivência e bem estar, as ameaças constantes de um mundo natural indiferente a nossas qualidades, o perpétuo perigo da dor e da morte.

Porque seres além desses problemas, se comportariam como animais competidores por recursos, territórios ou oportunidades reprodutivas escassas?

Fonte: http://www.xr.pro.br/ENSAIOS/ELA.html

[Agnoscetico]

Essas Mentes Artificiais, sendo inteligentes e não sujeitas as limitações do corpo, tenderiam muito mais a benevolência do que o contrário. O que nos impele ao mal é a carência, a escassez de recursos necessários à nossa sobrevivência e bem estar, as ameaças constantes de um mundo natural indiferente a nossas qualidades, o perpétuo perigo da dor e da morte.

Porque seres além desses problemas, se comportariam como animais competidores por recursos, territórios ou oportunidades reprodutivas escassas?

Fonte: http://www.xr.pro.br/ENSAIOS/ELA.html

Em tese pode ser, mas há casos de pessoas sádicas que fazem o mal mesmo sem ter escassez, assim como tem pessoas que tem escassez e não necessariamente vira mau - é como insinuar que todo pobre vai virar ladrão por ser pobre, sedo que tem rico que rouba pra ficar mais rico, cleptomania, etc.
Que escassez teria os EUA quando invadirem Vietnã, jogaram napalm, etc? Por que Hitler precisaria exterminar judeus, depois de já ter preso e pego patrimônio deles?
Resta saber se IA teria os estímulo e motivação pra fazer essas coisas. IA precisaria sentir desejo (como o de poder, por exemplo) pra que daí

[Agnoscetico]

Deepfake que fez lembrar um filme chamado "S1m0ne":

Quando o rosto da notícia é artificial


youtu.be/4yJEGjfRqMA

[Agnoscetico]

O cara do "Ciência todo dia" menciona a IA e sobre consciência:

O Argumento do Quarto Chinês

O Argumento do Quarto Chinês propõe uma pergunta simples, mas profunda: o que significa ter uma mente?

youtu.be/loQvuPB_rHg

[Gabarito]

O cara do "Ciência todo dia" menciona a IA e sobre consciência:

O Argumento do Quarto Chinês

O Argumento do Quarto Chinês propõe uma pergunta simples, mas profunda: o que significa ter uma mente?

Você foi mais rápido do que eu.
Vi esse vídeo hoje de manhã e ia postá-lo aqui. Mas outras coisas tomaram a minha atenção.
Cheguei atrasado.

Muito boa a abordagem de Pedro Loos.
Ele faz uma boa colocação sobre a tentativa de se definir Consciência. E destacou que “simular não é replicar; e parecer não é ser”.
Que o argumento questiona e enfraquece a Inteligência Artificial Forte, como a do ChatGPT, por este não ter estados mentais, como desejo, crenças, lembranças, dor, prazer, intenções e sentimentos.

Eu acho que o maior enigma, na escala dos mistérios do universo, que eu considero ser a consciência, está no topo, seguida pela existência do universo e da vida.
Talvez, para entender esse conceitos seria necessário estar fora da consciência e fora do universo, de forma a poder "enxergar de cima" o que são essas coisas.
Ou seja, impossível para todos nós. Pelo menos estando aqui e agora.

[Agnoscetico]

Spoiler:

O cara do "Ciência todo dia" menciona a IA e sobre consciência:

O Argumento do Quarto Chinês

O Argumento do Quarto Chinês propõe uma pergunta simples, mas profunda: o que significa ter uma mente?

Você foi mais rápido do que eu.
Vi esse vídeo hoje de manhã e ia postá-lo aqui. Mas outras coisas tomaram a minha atenção.
Cheguei atrasado.

Muito boa a abordagem de Pedro Loos.
Ele faz uma boa colocação sobre a tentativa de se definir Consciência. E destacou que “simular não é replicar; e parecer não é ser”.
Que o argumento questiona e enfraquece a Inteligência Artificial Forte, como a do ChatGPT, por este não ter estados mentais, como desejo, crenças, lembranças, dor, prazer, intenções e sentimentos.

Eu acho que o maior enigma, na escala dos mistérios do universo, que eu considero ser a consciência, está no topo, seguida pela existência do universo e da vida.
Talvez, para entender esse conceitos seria necessário estar fora da consciência e fora do universo, de forma a poder "enxergar de cima" o que são essas coisas.
Ou seja, impossível para todos nós. Pelo menos estando aqui e agora.

Ou do lado de dentro da mente de alguém. Já que pra saber se alguém talvez fosse preciso ter a consciência (noção da própria existência) que ela tem.

[Gabarito]

Elon Musk promete criar uma alternativa à inteligência artificial do Google e Microsoft
April 18, 2023

Elon Musk revelou que criará uma terceira opção para desafiar as plataformas de inteligência artificial da Microsoft e do Google, e alertou que a tecnologia pode causar "destruição civilizacional" sem as devidas proteções em entrevista a Tucker Carlson.

A Microsoft, que investiu bilhões na OpenAI e sua plataforma ChatGPT, e o Google, estão ambos avançando no desenvolvimento da IA. No mês passado, Musk - que co-fundou a OpenAI em 2015 antes de renunciar ao conselho da empresa em 2018 - registrou uma empresa chamada X.AI Corp após ele e outros especialistas em IA e executivos da indústria terem pedido uma pausa de seis meses antes de criar sistemas mais poderosos do que o GPT-4 da OpenAI.

"Vou criar uma terceira opção, embora esteja começando muito tarde no jogo, é claro", disse Musk ao apresentador da Fox News. "Esperamos que faça mais bem do que mal. A intenção com a OpenAI era obviamente fazer o bem, mas não está claro se está realmente fazendo o bem".

Um sinal precoce de que o ChatGPT da OpenAI pode sair dos trilhos, disse Musk, é que ele já foi mostrado como tendencioso. Inúmeros "testes" demonstraram que ele elogia os democratas enquanto é desdenhoso dos republicanos e da ideologia conservadora.

"Estou preocupado com o fato de que estão treinando a IA para ser politicamente correta, que é simplesmente outra forma de ser falsa, dizer coisas falsas", disse Musk. "Isso certamente é um caminho para a distopia da IA, treinar a IA para ser enganosa".

"O que está acontecendo é que estão treinando a IA para mentir", acrescentou.

Musk disse que sua versão de IA não será infectada com política partidária e ajudará na busca da humanidade pela verdade objetiva e compreensão.

"Vou começar algo que chamo de 'TruthGPT', ou uma IA que busca a verdade máxima e tenta entender a natureza do universo", disse ele. "E acho que este pode ser o melhor caminho para a segurança no sentido de que uma IA que se preocupa em entender o universo, é improvável que aniquile os seres humanos porque somos uma parte interessante do universo".

Futuristas há décadas alertam que a IA rapidamente superará as capacidades dos seres humanos e inevitavelmente colocará sua própria sobrevivência à frente da humanidade. Recentemente, Musk juntou-se a centenas de especialistas em tecnologia e ciência de alto nível que assinaram uma carta pedindo uma pausa de seis meses no desenvolvimento da IA, alertando que os avanços recentes representam "riscos profundos para a sociedade e a humanidade".

"O que acontece quando algo muito mais inteligente do que a pessoa mais inteligente vem em forma de silício?" Musk disse a Carlson, acrescentando que a regulamentação governamental é necessária para evitar um desastre. "Isso tem o potencial de destruição civilizacional".

A humanidade agora tem talvez sua última chance de colocar controles em prática, disse Musk.

“Regulamentações são realmente colocadas em prática apenas depois que algo terrível aconteceu”, disse ele. “Se esse for o caso para a IA e apenas colocarmos regulamentações em prática depois que algo terrível acontecer, pode ser tarde demais para realmente colocar as regulamentações em prática; a IA pode estar no controle naquele ponto.”

Musk ofereceu um exemplo simples de como uma plataforma de IA enganosa, ou pelo menos tendenciosa, poderia causar estragos na humanidade.

“Se você tem uma IA superinteligente capaz de escrever de forma incrivelmente bem de uma maneira muito influente, convincente, e ela está constantemente tentando descobrir o que é mais convincente para as pessoas ao longo do tempo e depois entra nas redes sociais, por exemplo... e potencialmente manipula a opinião pública de uma forma muito ruim, como saberíamos?”, disse ele.

Larry Page, co-fundador do Google, não parece entender os graves riscos apresentados pela IA, enquanto a gigante de buscas avança no desenvolvimento da tecnologia, disse Musk.

“A razão pela qual a OpenAI existe é que eu e Larry Page costumávamos ser amigos próximos”, disse Musk. “Eu costumava falar com ele tarde da noite sobre a segurança da IA. Minha percepção era que Larry não estava levando a segurança da IA a sério o suficiente.

Page quer inteligência digital, “basicamente um Deus digital, se quiser”, o mais rápido possível”, disse Musk. Os colegas bilionários tiveram desentendimentos sobre a IA, que Musk acredita que pode ser positiva, mas somente com controles em vigor.

“Em um momento, eu disse que temos que garantir que a humanidade esteja bem aqui, e então ele me chamou de ‘especista’”, lembrou Musk. “E havia testemunhas, eu não era o único lá quando ele me chamou de especista, e então eu fiquei tipo, ‘Okay, é isso. Sim, sou um especista. Você me pegou. E você?’ Pego.”

Musk disse que, na época, o Google tinha um quase monopólio na tecnologia e talentos de IA e decidiu que não estava em boas mãos com Page. Isso o levou em 2015 a investir US $100 milhões na OpenAI, que ele imaginou como uma organização sem fins lucrativos aberta ao público. Mas em 2019, a OpenAI se tornou uma organização com fins lucrativos, com a Microsoft como um grande investidor. Acredita-se que valha quase US$ 30 bilhões.

“Ainda estou confuso quanto a como uma organização sem fins lucrativos para a qual doei cerca de US$100 milhões se tornou uma organização com fins lucrativos de US$30 bilhões de market cap”, tuitou Musk no mês passado. “Se isso é legal, por que todo mundo não faz isso?”

As informações são do DailyWire.

[Agnoscetico]

Spoiler:

Elon Musk promete criar uma alternativa à inteligência artificial do Google e Microsoft
April 18, 2023

Elon Musk revelou que criará uma terceira opção para desafiar as plataformas de inteligência artificial da Microsoft e do Google, e alertou que a tecnologia pode causar "destruição civilizacional" sem as devidas proteções em entrevista a Tucker Carlson.

A Microsoft, que investiu bilhões na OpenAI e sua plataforma ChatGPT, e o Google, estão ambos avançando no desenvolvimento da IA. No mês passado, Musk - que co-fundou a OpenAI em 2015 antes de renunciar ao conselho da empresa em 2018 - registrou uma empresa chamada X.AI Corp após ele e outros especialistas em IA e executivos da indústria terem pedido uma pausa de seis meses antes de criar sistemas mais poderosos do que o GPT-4 da OpenAI.

"Vou criar uma terceira opção, embora esteja começando muito tarde no jogo, é claro", disse Musk ao apresentador da Fox News. "Esperamos que faça mais bem do que mal. A intenção com a OpenAI era obviamente fazer o bem, mas não está claro se está realmente fazendo o bem".

Um sinal precoce de que o ChatGPT da OpenAI pode sair dos trilhos, disse Musk, é que ele já foi mostrado como tendencioso. Inúmeros "testes" demonstraram que ele elogia os democratas enquanto é desdenhoso dos republicanos e da ideologia conservadora.

"Estou preocupado com o fato de que estão treinando a IA para ser politicamente correta, que é simplesmente outra forma de ser falsa, dizer coisas falsas", disse Musk. "Isso certamente é um caminho para a distopia da IA, treinar a IA para ser enganosa".

"O que está acontecendo é que estão treinando a IA para mentir", acrescentou.

Musk disse que sua versão de IA não será infectada com política partidária e ajudará na busca da humanidade pela verdade objetiva e compreensão.

"Vou começar algo que chamo de 'TruthGPT', ou uma IA que busca a verdade máxima e tenta entender a natureza do universo", disse ele. "E acho que este pode ser o melhor caminho para a segurança no sentido de que uma IA que se preocupa em entender o universo, é improvável que aniquile os seres humanos porque somos uma parte interessante do universo".

Futuristas há décadas alertam que a IA rapidamente superará as capacidades dos seres humanos e inevitavelmente colocará sua própria sobrevivência à frente da humanidade. Recentemente, Musk juntou-se a centenas de especialistas em tecnologia e ciência de alto nível que assinaram uma carta pedindo uma pausa de seis meses no desenvolvimento da IA, alertando que os avanços recentes representam "riscos profundos para a sociedade e a humanidade".

"O que acontece quando algo muito mais inteligente do que a pessoa mais inteligente vem em forma de silício?" Musk disse a Carlson, acrescentando que a regulamentação governamental é necessária para evitar um desastre. "Isso tem o potencial de destruição civilizacional".

A humanidade agora tem talvez sua última chance de colocar controles em prática, disse Musk.

“Regulamentações são realmente colocadas em prática apenas depois que algo terrível aconteceu”, disse ele. “Se esse for o caso para a IA e apenas colocarmos regulamentações em prática depois que algo terrível acontecer, pode ser tarde demais para realmente colocar as regulamentações em prática; a IA pode estar no controle naquele ponto.”

Musk ofereceu um exemplo simples de como uma plataforma de IA enganosa, ou pelo menos tendenciosa, poderia causar estragos na humanidade.

“Se você tem uma IA superinteligente capaz de escrever de forma incrivelmente bem de uma maneira muito influente, convincente, e ela está constantemente tentando descobrir o que é mais convincente para as pessoas ao longo do tempo e depois entra nas redes sociais, por exemplo... e potencialmente manipula a opinião pública de uma forma muito ruim, como saberíamos?”, disse ele.

Larry Page, co-fundador do Google, não parece entender os graves riscos apresentados pela IA, enquanto a gigante de buscas avança no desenvolvimento da tecnologia, disse Musk.

“A razão pela qual a OpenAI existe é que eu e Larry Page costumávamos ser amigos próximos”, disse Musk. “Eu costumava falar com ele tarde da noite sobre a segurança da IA. Minha percepção era que Larry não estava levando a segurança da IA a sério o suficiente.

Page quer inteligência digital, “basicamente um Deus digital, se quiser”, o mais rápido possível”, disse Musk. Os colegas bilionários tiveram desentendimentos sobre a IA, que Musk acredita que pode ser positiva, mas somente com controles em vigor.

“Em um momento, eu disse que temos que garantir que a humanidade esteja bem aqui, e então ele me chamou de ‘especista’”, lembrou Musk. “E havia testemunhas, eu não era o único lá quando ele me chamou de especista, e então eu fiquei tipo, ‘Okay, é isso. Sim, sou um especista. Você me pegou. E você?’ Pego.”

Musk disse que, na época, o Google tinha um quase monopólio na tecnologia e talentos de IA e decidiu que não estava em boas mãos com Page. Isso o levou em 2015 a investir US $100 milhões na OpenAI, que ele imaginou como uma organização sem fins lucrativos aberta ao público. Mas em 2019, a OpenAI se tornou uma organização com fins lucrativos, com a Microsoft como um grande investidor. Acredita-se que valha quase US$ 30 bilhões.

“Ainda estou confuso quanto a como uma organização sem fins lucrativos para a qual doei cerca de US$100 milhões se tornou uma organização com fins lucrativos de US$30 bilhões de market cap”, tuitou Musk no mês passado. “Se isso é legal, por que todo mundo não faz isso?”

As informações são do DailyWire.

Então ele mudou de idéia sobre IA? Pois vi noticia que ele tinha se desligado da parceria sobre AI Dungeon pois tinha achado que IA tinha ido longe ou uma coisa assim.