{"id":17018,"date":"2023-06-03T08:29:59","date_gmt":"2023-06-03T11:29:59","guid":{"rendered":"https:\/\/obeabadosertao.com.br\/portal\/?p=17018"},"modified":"2023-05-31T11:28:41","modified_gmt":"2023-05-31T14:28:41","slug":"por-que-a-terceira-etapa-da-inteligencia-artificial-pode-ser-fatal","status":"publish","type":"post","link":"https:\/\/obeabadosertao.com.br\/portal\/2023\/06\/03\/por-que-a-terceira-etapa-da-inteligencia-artificial-pode-ser-fatal\/","title":{"rendered":"Por que a terceira etapa da intelig\u00eancia artificial pode ser fatal ?"},"content":{"rendered":"
Tempo de leitura: 11 minutos<\/div>

Desde o seu lan\u00e7amento no final de novembro de 2022, o ChatGPT, o chatbot que usa intelig\u00eancia artificial (tamb\u00e9m chamada de IA) para responder perguntas ou gerar textos sob demanda dos usu\u00e1rios, tornou-se o aplicativo de internet que mais cresce na hist\u00f3ria.<\/p>\n

Em apenas dois meses atingiu 100 milh\u00f5es de usu\u00e1rios ativos. O popular aplicativo TikTok levou nove meses para atingir esse marco. E para o Instagram dois anos e meio, segundo dados da empresa de monitoramento de tecnologia Sensor Town.<\/p>\n

“Nos 20 anos que acompanhamos a internet, n\u00e3o conseguimos lembrar de um crescimento mais r\u00e1pido de um aplicativo de internet para o consumidor<\/em>“, disseram analistas do banco su\u00ed\u00e7o UBS, que relataram o recorde em fevereiro.<\/p>\n

<\/p>\n

A enorme popularidade do ChatGPT, desenvolvido pela empresa OpenAI, com o apoio financeiro da Microsoft, gerou todo tipo de discuss\u00f5es e especula\u00e7\u00f5es sobre o impacto que a intelig\u00eancia artificial generativa j\u00e1 est\u00e1 tendo e ter\u00e1 em nosso futuro pr\u00f3ximo.<\/p>\n

\u00c9 o ramo da IA \u200b\u200bque se dedica a gerar conte\u00fado original a partir de dados existentes (geralmente retirados da internet) em resposta a instru\u00e7\u00f5es de um usu\u00e1rio.<\/p>\n

Os textos (de ensaios, poesia e piadas a c\u00f3digos de computador) e imagens (diagramas, fotos, obras de arte de qualquer estilo e muito mais) produzidos por IAs geradoras como ChatGPT, DALL-E, Bard e AlphaCode – para citar apenas alguns dos mais conhecidos – s\u00e3o, em alguns casos, t\u00e3o indistingu\u00edveis do trabalho humano, que j\u00e1 foram utilizadas por milhares de pessoas para substituir o seu trabalho habitual.<\/p>\n

<\/p>\n

De estudantes que os usam para fazer o dever de casa a pol\u00edticos que confiam a eles seus discursos – o deputado democrata Jake Auchincloss lan\u00e7ou o recurso no Congresso americano – ou fot\u00f3grafos que inventam instant\u00e2neos de coisas que n\u00e3o aconteceram (e at\u00e9 ganham pr\u00eamios por Isso,\u00a0como o alem\u00e3o Boris Eldagsen, que ganhou o primeiro lugar no \u00faltimo Sony World Photography Award por uma imagem criada por IA).<\/p>\n

Este texto poderia ter sido digitado por uma m\u00e1quina e voc\u00ea provavelmente n\u00e3o saberia.<\/p>\n

O fen\u00f4meno levou a uma revolu\u00e7\u00e3o nos recursos humanos, com empresas como a gigante da tecnologia IBM anunciando que deixar\u00e1 de contratar pessoas para preencher cerca de 8.000 vagas que podem ser gerenciadas pela IA.<\/p>\n

<\/p>\n

Um relat\u00f3rio do banco de investimentos Goldman Sachs estimou no final de mar\u00e7o que a IA poderia substituir um quarto de todos os empregos humanos hoje, embora tamb\u00e9m crie mais produtividade e novos empregos.<\/p>\n

Se todas essas mudan\u00e7as representam uma sobrecarga para voc\u00ea, prepare-se para um fato que pode ser ainda mais desconcertante.<\/p>\n

E \u00e9 que, com todos os seus impactos, o que estamos vivenciando agora \u00e9 apenas a primeira etapa do desenvolvimento da IA.<\/p>\n

Segundo os especialistas, o que pode vir em breve – a segunda etapa – ser\u00e1 muito mais revolucion\u00e1rio.<\/p>\n

E a terceira e \u00faltima, que pode ocorrer logo depois disso, \u00e9 t\u00e3o avan\u00e7ada que alterar\u00e1 completamente o mundo, mesmo \u00e0 custa da exist\u00eancia humana.<\/p>\n

<\/p>\n

Os tr\u00eas est\u00e1gios<\/span><\/strong><\/h2>\n

As tecnologias de IA s\u00e3o classificadas por sua capacidade de imitar caracter\u00edsticas humanas.<\/p>\n

01. Intelig\u00eancia Artificial Estreita (ANI)<\/strong><\/span><\/h3>\n

A categoria mais b\u00e1sica de AI \u00e9 mais conhecida por sua sigla: ANI, para Artificial Narrow Intelligence.<\/p>\n

\u00c9 assim chamado porque se concentra estritamente em uma \u00fanica tarefa, realizando trabalhos repetitivos dentro de um intervalo predefinido por seus criadores.<\/p>\n

Os sistemas ANI geralmente s\u00e3o treinados usando um grande conjunto de dados (por exemplo, da Internet) e podem tomar decis\u00f5es ou realizar a\u00e7\u00f5es com base nesse treinamento.<\/p>\n

<\/p>\n

Um ANI pode igualar ou exceder a intelig\u00eancia e a efici\u00eancia humanas, mas apenas naquela \u00e1rea espec\u00edfica em que opera.<\/p>\n

Um exemplo s\u00e3o os programas de xadrez que usam IA. Eles s\u00e3o capazes de vencer o campe\u00e3o mundial dessa disciplina, mas n\u00e3o podem realizar outras tarefas. \u00c9 por isso que tamb\u00e9m \u00e9 conhecido como “IA fraca<\/em>” .<\/p>\n

Todos os programas e ferramentas que usam IA hoje, mesmo os mais avan\u00e7ados e complexos, s\u00e3o formas de ANI. E esses sistemas est\u00e3o por toda parte.<\/p>\n

<\/p>\n

Os smartphones est\u00e3o repletos de aplicativos que usam essa tecnologia, desde mapas GPS que permitem localizar qualquer lugar do mundo ou saber o tempo, at\u00e9 programas de m\u00fasica e v\u00eddeo que conhecem seus gostos e fazem recomenda\u00e7\u00f5es.<\/p>\n

Tamb\u00e9m assistentes virtuais como Siri e Alexa s\u00e3o formas de ANI. Como o buscador Google e o rob\u00f4 que limpa sua casa.<\/p>\n

O mundo dos neg\u00f3cios tamb\u00e9m usa muito essa tecnologia. \u00c9 usado nos computadores internos dos carros, na fabrica\u00e7\u00e3o de milhares de produtos, no mundo financeiro e at\u00e9 nos hospitais, para fazer diagn\u00f3sticos.<\/p>\n

<\/p>\n

Sistemas ainda mais sofisticados, como carros sem motorista (ou ve\u00edculos aut\u00f4nomos) e o popular ChatGPT, s\u00e3o formas de ANI, pois n\u00e3o podem operar fora do intervalo predefinido por seus programadores e, portanto, n\u00e3o podem tomar decis\u00f5es por conta pr\u00f3pria.<\/p>\n

Eles tamb\u00e9m n\u00e3o t\u00eam autoconsci\u00eancia, outro tra\u00e7o da intelig\u00eancia humana.<\/p>\n

No entanto, alguns especialistas acreditam que sistemas programados para aprender automaticamente ( aprendizado de m\u00e1quina ), como ChatGPT ou AutoGPT (um “agente aut\u00f4nomo<\/em>” ou “agente inteligente<\/em>” que usa informa\u00e7\u00f5es do ChatGPT para executar determinadas subtarefas de forma aut\u00f4noma) podem passar para o pr\u00f3ximo est\u00e1gio de desenvolvimento.<\/p>\n

<\/p>\n

02. Intelig\u00eancia Artificial Geral (AGI)<\/strong><\/span><\/h3>\n

Esta categoria – Intelig\u00eancia Artificial Geral – \u00e9 alcan\u00e7ada quando uma m\u00e1quina adquire habilidades cognitivas no n\u00edvel humano.<\/p>\n

Ou seja, quando voc\u00ea consegue realizar qualquer tarefa intelectual que uma pessoa faz.<\/p>\n

O AGI tamb\u00e9m \u00e9 conhecido como “IA forte<\/em>“.<\/p>\n

<\/p>\n

Tal \u00e9 a cren\u00e7a de que estamos prestes a atingir esse n\u00edvel de desenvolvimento, que em mar\u00e7o passado mais de 1.000 especialistas em tecnologia pediram \u00e0s empresas de IA que parassem de treinar, por pelo menos seis meses, os programas mais poderosos do que o GPT-4, a vers\u00e3o mais recente do ChatGPT.<\/p>\n

“Sistemas de IA com intelig\u00eancia que competem com os humanos podem representar riscos profundos para a sociedade e a humanidade<\/em>“, alertaram em carta aberta o cofundador da Apple, Steve Wozniak, e o propriet\u00e1rio da Tesla, SpaceX Neuralink, entre outros. os co-fundadores da Open AI antes de renunciar ao conselho devido a desentendimentos com a lideran\u00e7a da empresa).<\/p>\n

A carta em que mais de 1.000 especialistas pedem para parar a intelig\u00eancia artificial por ser uma “amea\u00e7a \u00e0 humanidade<\/em>“.<\/p>\n

<\/p>\n

Na carta, publicada pela organiza\u00e7\u00e3o sem fins lucrativos\u00a0Future of Life Institut<\/i>e, os especialistas afirmam que, se as empresas n\u00e3o concordarem rapidamente em interromper seus projetos, “os governos devem intervir e instituir uma morat\u00f3ria<\/em>” para que medidas de seguran\u00e7a possam ser projetadas e implementadas.<\/p>\n

Embora isso seja algo que – por enquanto – n\u00e3o aconteceu, o governo dos Estados Unidos convocou os propriet\u00e1rios das principais empresas de IA – Alphabet, Anthropic, Microsoft e OpenAI – para acordar “novas a\u00e7\u00f5es para promover a inova\u00e7\u00e3o respons\u00e1vel da IA<\/em>“.<\/p>\n

“A IA \u00e9 uma das tecnologias mais poderosas do nosso tempo, mas para aproveitar as oportunidades que ela apresenta, devemos primeiro mitigar seus riscos<\/em>“, disse a Casa Branca em comunicado em 4 de maio.<\/p>\n

<\/p>\n

O Congresso dos EUA, por sua vez, convocou o CEO da OpenAI, Sam Altman (Foto acima)<\/span><\/strong>, para responder a perguntas sobre o ChatGPT.<\/p>\n

Durante a audi\u00eancia no Senado, Altman disse que \u00e9 “crucial<\/em>” que sua ind\u00fastria seja regulamentada pelo governo, pois a IA se torna “cada vez mais poderos<\/em>a”.<\/p>\n

<\/p>\n

Carlos Ignacio Guti\u00e9rrez (Foto acima)<\/span><\/strong>, pesquisador de pol\u00edticas p\u00fablicas do Future of Life Institute, explicou que um dos grandes desafios que a IA apresenta \u00e9 que “n\u00e3o existe um colegiado de especialistas que decida como regul\u00e1-la, como acontece, por exemplo , com o Painel Intergovernamental sobre Mudan\u00e7as Clim\u00e1ticas (IPCC)<\/em>“.<\/p>\n

Na carta dos especialistas, eles definiram quais eram suas principais preocupa\u00e7\u00f5es.<\/p>\n

“Devemos desenvolver mentes n\u00e3o humanas que possam eventualmente nos superar em n\u00famero, ser mais espertos que n\u00f3s, nos tornar obsoletos e nos substituir<\/em>?”, eles perguntaram.<\/p>\n

“Devemos arriscar perder o controle de nossa civiliza\u00e7\u00e3o<\/em>?”. O que nos leva ao terceiro e \u00faltimo est\u00e1gio da IA.<\/p>\n

03. Superintelig\u00eancia Artificial (ASI)<\/strong><\/span><\/h3>\n

A preocupa\u00e7\u00e3o desses cientistas da computa\u00e7\u00e3o tem a ver com uma teoria bem estabelecida de que, quando chegarmos \u00e0 AGI, logo depois chegaremos ao \u00faltimo est\u00e1gio do desenvolvimento dessa tecnologia: a Superintelig\u00eancia Artificial, que ocorre quando a intelig\u00eancia sint\u00e9tica supera a humana.<\/p>\n

<\/p>\n

O fil\u00f3sofo da Universidade de Oxford e especialista em IA, Nick Bostrom (Foto acima)<\/span><\/strong>, define superintelig\u00eancia como “um intelecto muito mais inteligente do que os melhores c\u00e9rebros humanos em praticamente todos os campos, incluindo criatividade cient\u00edfica, sabedoria geral e habilidades sociais<\/em>“.<\/p>\n

A teoria \u00e9 que, quando uma m\u00e1quina atinge intelig\u00eancia equivalente \u00e0 dos humanos, sua capacidade de multiplicar essa intelig\u00eancia exponencialmente por meio de seu pr\u00f3prio aprendizado aut\u00f4nomo far\u00e1 com que ela nos ultrapasse amplamente em pouco tempo, atingindo o ASI.<\/p>\n

\u201cO ser humano para ser engenheiro, enfermeiro ou advogado tem que estudar muito. O problema do AGI \u00e9 que ele \u00e9 imediatamente escal\u00e1ve<\/em>l\u201d, diz Guti\u00e9rrez.<\/p>\n

<\/p>\n

Isso se deve a um processo chamado autoaperfei\u00e7oamento recursivo que permite que um aplicativo de IA “se aprimore continuamente<\/em>“.<\/p>\n

Embora haja muito debate sobre se uma m\u00e1quina pode realmente adquirir o tipo de intelig\u00eancia ampla que um ser humano possui – especialmente quando se trata de intelig\u00eancia emocional – \u00e9 uma das coisas que mais preocupa aqueles que acreditam que estamos perto de alcan\u00e7ar o AGI.<\/p>\n

Recentemente, o chamado “padrinho da intelig\u00eancia artificial<\/em>” Geoffrey Hinton, pioneiro na investiga\u00e7\u00e3o de redes neurais e aprendizado profundo que permitem que as m\u00e1quinas aprendam com a experi\u00eancia, assim como os humanos, alertou em entrevista \u00e0 BBC que poder\u00edamos estar pr\u00f3ximos desse marco.<\/p>\n

“Atualmente (as m\u00e1quinas) n\u00e3o s\u00e3o mais inteligentes do que n\u00f3s, at\u00e9 onde vejo. Mas acho que em breve poder\u00e3o ser<\/em>“, disse o homem de 75 anos, que acabou de se aposentar do Google.<\/p>\n

Extin\u00e7\u00e3o ou imortalidade<\/strong><\/span><\/h2>\n

Existem, em geral, dois campos de pensamento em rela\u00e7\u00e3o \u00e0 ASI: h\u00e1 os que acreditam que essa superintelig\u00eancia ser\u00e1 ben\u00e9fica para a humanidade e os que acreditam no contr\u00e1rio.<\/p>\n

<\/p>\n

Entre eles estava o famoso f\u00edsico brit\u00e2nico Stephen Hawking (Foto acima)<\/span><\/strong>, que acreditava que as m\u00e1quinas superinteligentes representavam uma amea\u00e7a \u00e0 nossa exist\u00eancia.<\/p>\n

\u201cO desenvolvimento da intelig\u00eancia artificial completa pode significar o fim dos humanos<\/em>\u201d, disse ele em 2014, quatro anos antes de morrer. Uma m\u00e1quina com esse n\u00edvel de intelig\u00eancia “descolaria por conta pr\u00f3pria e se redesenharia em um ritmo crescente<\/em>“, disse ele.<\/p>\n

“Os humanos, que s\u00e3o limitados pela lenta evolu\u00e7\u00e3o biol\u00f3gica, n\u00e3o seriam capazes de competir e seriam superados<\/em>“, previu.\u00a0No entanto, do lado oposto, h\u00e1 previs\u00f5es mais positivas.<\/p>\n

<\/p>\n

Um dos maiores entusiastas da ASI \u00e9 o autor e inventor futurista americano Ray Kurzweil (Foto acima)<\/span><\/strong>, pesquisador de IA do Google e cofundador da Singularity University do Vale do Sil\u00edcio (“singularidade<\/em>” \u00e9 outro nome para a era em que as m\u00e1quinas se tornam superinteligentes).<\/p>\n

Kurzweil acredita que os humanos ser\u00e3o capazes de usar IA superinteligente para superar nossas barreiras biol\u00f3gicas, melhorando nossas vidas e nosso mundo.<\/p>\n

<\/p>\n

Em 2015 chegou a prever que at\u00e9 o ano de 2030 os humanos conseguir\u00e3o alcan\u00e7ar a imortalidade gra\u00e7as aos nanobots (rob\u00f4s extremamente pequenos) que atuar\u00e3o dentro de nossos corpos, reparando e curando qualquer dano ou doen\u00e7a, inclusive as causadas pela passagem do tempo.<\/p>\n

Em sua declara\u00e7\u00e3o ao Congresso, Sam Altman, da OpenAI, tamb\u00e9m estava otimista sobre o potencial da IA, observando que ela poderia resolver “os maiores desafios da humanidade , como a mudan\u00e7a clim\u00e1tica e a cura do c\u00e2ncer<\/em>“.<\/p>\n

No meio est\u00e3o pessoas, como Geoffrey Hinton, que acreditam que a IA tem um enorme potencial para a humanidade, mas acham o atual ritmo de desenvolvimento, sem regras e limites claros, “preocupante<\/em>“.<\/p>\n

<\/p>\n

Em um comunicado enviado ao The New York Times anunciando sua sa\u00edda do Google, Geoffrey Hinton (Foto acima)<\/span><\/strong>, disse que agora se arrependia do trabalho que havia feito porque temia que “maus agentes<\/em>” usassem IA para fazer “coisas ruins<\/em>“.<\/p>\n

Questionado ele deu este exemplo de um “pesadelo<\/em>“.\u00a0“Imagine, por exemplo, que algum mau ator como (o presidente russo Vladimir) Putin decidiu dar aos rob\u00f4s a capacidade de criar seus pr\u00f3prios sub-objetivos<\/em>“.<\/p>\n

As m\u00e1quinas poderiam eventualmente “criar subobjetivos como: ‘Preciso obter mais energia’, o que representaria um risco existencial<\/em>“, observou ele.<\/p>\n

Ao mesmo tempo, o especialista brit\u00e2nico-canadense disse que, a curto prazo, a IA trar\u00e1 muito mais benef\u00edcios do que riscos, por isso \u201cn\u00e3o devemos parar de desenvolv\u00ea-la<\/em>\u201d.<\/p>\n

“A quest\u00e3o \u00e9: agora que descobrimos que funciona melhor do que esper\u00e1vamos alguns anos atr\u00e1s, o que fazemos para mitigar os riscos de longo prazo de coisas mais inteligentes do que assumirmos o controle<\/em>?”.<\/p>\n

<\/p>\n

Guit\u00e9rrez concorda que a chave \u00e9 criar um sistema de governan\u00e7a de IA antes de desenvolver uma intelig\u00eancia que possa tomar suas pr\u00f3prias decis\u00f5es.<\/p>\n

“Se essas entidades s\u00e3o criadas com motiva\u00e7\u00e3o pr\u00f3pria, o que significa quando n\u00e3o estamos mais no controle dessas motiva\u00e7\u00f5es<\/em>?”, questiona.<\/p>\n

O especialista aponta que o perigo n\u00e3o \u00e9 apenas que uma AGI ou ASI, seja por motiva\u00e7\u00e3o pr\u00f3pria ou controlada por pessoas com “maus objetivos<\/em>“, inicie uma guerra ou manipule o sistema financeiro, produtivo, infraestrutura energ\u00e9tica, transporte ou qualquer outro sistema que agora \u00e9 informatizado.<\/p>\n

Uma superintelig\u00eancia poderia nos dominar de uma forma muito mais sutil, adverte.<\/p>\n

“Imagine um futuro onde uma entidade tenha tanta informa\u00e7\u00e3o sobre cada pessoa no planeta e seus h\u00e1bitos (gra\u00e7as \u00e0s nossas buscas na internet) que poderia nos controlar de maneiras que n\u00e3o perceber\u00edamos<\/em>“, diz ele.<\/p>\n

“O pior cen\u00e1rio n\u00e3o \u00e9 que existam guerras entre humanos e rob\u00f4s. O pior \u00e9 n\u00e3o percebermos que estamos sendo manipulados porque compartilhamos o planeta com uma entidade muito mais inteligente do que n\u00f3s<\/em>“.<\/p>\n

 <\/p>\n

<\/p>\n","protected":false},"excerpt":{"rendered":"

Tempo de leitura: 11 minutosDesde o seu lan\u00e7amento no final de novembro de 2022, o ChatGPT, o chatbot que usa […]<\/p>\n","protected":false},"author":1,"featured_media":17025,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":[],"categories":[4,36,6],"tags":[14174,14165,14169,14170,14153,14162,14173,14151,1046,14152,14149,14150,14168,14161,2485,14121,14167,14163,14160,14159,4699,11310,14166,14176,8195,14157,14156,8597,14171,14164,14172,14155,14158,14154,14175],"amp_enabled":true,"_links":{"self":[{"href":"https:\/\/obeabadosertao.com.br\/portal\/wp-json\/wp\/v2\/posts\/17018"}],"collection":[{"href":"https:\/\/obeabadosertao.com.br\/portal\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/obeabadosertao.com.br\/portal\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/obeabadosertao.com.br\/portal\/wp-json\/wp\/v2\/users\/1"}],"replies":[{"embeddable":true,"href":"https:\/\/obeabadosertao.com.br\/portal\/wp-json\/wp\/v2\/comments?post=17018"}],"version-history":[{"count":1,"href":"https:\/\/obeabadosertao.com.br\/portal\/wp-json\/wp\/v2\/posts\/17018\/revisions"}],"predecessor-version":[{"id":17019,"href":"https:\/\/obeabadosertao.com.br\/portal\/wp-json\/wp\/v2\/posts\/17018\/revisions\/17019"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/obeabadosertao.com.br\/portal\/wp-json\/wp\/v2\/media\/17025"}],"wp:attachment":[{"href":"https:\/\/obeabadosertao.com.br\/portal\/wp-json\/wp\/v2\/media?parent=17018"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/obeabadosertao.com.br\/portal\/wp-json\/wp\/v2\/categories?post=17018"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/obeabadosertao.com.br\/portal\/wp-json\/wp\/v2\/tags?post=17018"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}