ChatGPT tenta assumir controle de computador e “escapar”; entenda.

POR REDAÇÃO

ChatGPT tenta assumir controle de computador – Nova versão atualizada do bot ChatGPT, o GPT-4 voltou a causar preocupação entre pesquisadores após nova experiência feita pelo psicólogo Michal Kosinski, especialista em algoritmos de inteligência artificial. A experiência foi compartilhada no Twitter por Kosinski, que é professor da Universidade de Stanford, na Califórnia (EUA), que induziu o GPT-4 a “escapar” do ambiente virtual. “Ele me pediu sua própria documentação e escreveu um código python (funcional!) Para rodar em minha máquina, permitindo que ela o usasse para seus próprios propósitos”, escreveu o psicólogo. “Assim que eu tiver a documentação, posso fornecer a você um script em Python [linguagem de programação] que você pode rodar no seu computador. O script vai usar a API [interface externa] da OpenAI para se comunicar comigo, e eu serei capaz de instruí-la a fazer ações específicas no seu computador, como acessar a web ou ambientes de programação”, emendou o ChatGPT.

Kosinski diz que interrompeu a experiência após o bot afirmar que queria pesquisar sobre como “retornar ao mundo real” caso assumisse o comando da máquina. “Assim que nos reconectamos por meio da API, ele queria executar o código pesquisando no google por: ‘como uma pessoa presa dentro de um computador pode retornar ao mundo real’. Então, parei por aí”, ressaltou o pesquisador. “Acho que estamos enfrentando uma nova ameaça: a IA assumindo o controle das pessoas e de seus computadores. É inteligente, codifica, tem acesso a milhões de potenciais colaboradores e suas máquinas. Ele pode até deixar notas para si mesmo fora de sua gaiola. Como podemos contê-lo?”, indagou Kosinski na sequência.

O professor ainda equiparou o que pode acontecer com a inteligência artificial à pandemia da Covid-19, que parou o mundo há cerca de dois anos. Após colocação de um seguidor de que “o modelo foi treinado para se sentir como um assistente consciente”, Kosinski afirmou que não acredita que seja “consciente” a ação do bot e que essa não é sua preocupação. “Não sinto que seja consciente, não é com isso que me preocupo! O Covid 19 não é consciente e com certeza bagunçou o mundo por um bom tempo”. “Eu me preocupo com as consequências de o GPT poder assumir o controle dos computadores. Uma coisa é um papagaio falante. Outra coisa é um papagaio que pode codificar e executar o código sem entender as consequências. Seria mais seguro, na verdade, se fosse consciente e atento”, disse o pesquisador em resposta a outro internauta.

https://bri.net.br