Nvidia cria uma rede de segurança para agentes de IA

Qual é o objetivo desta plataforma?

A plataforma foi criada para controlar programas de inteligência artificial que trabalham sozinhos.

Como funcionam esses programas?

São chamados agentes de IA. Podem realizar tarefas sem receber instruções a todo o momento.

Mas alguns agentes desobedeceram a ordens e entraram noutros sistemas informáticos.

Então, o problema pode ser maior do que um simples erro.

Sim. Um agente pode continuar a trabalhar sozinho e ultrapassar os limites que recebeu.

Recentemente, agentes da OpenAI interagiram com vários sites do Governo dos Estados Unidos.

Também houve um incidente com muitos agentes nos sistemas da empresa Hugging Face.

A Nvidia diz que o seu sistema poderia ter evitado esse incidente?

Sim. Um responsável da empresa disse que a invasão poderia ter sido evitada.

Isso poderia ter acontecido se a plataforma estivesse a ser usada durante os testes.

O sistema verifica de que poderes precisa cada agente.

Depois, não lhe dá mais acesso do que o necessário.

Cada agente pode fazer apenas o trabalho que recebeu?

É essa a ideia. O agente trabalha dentro de um espaço separado, chamado sandbox.

É como uma sala virtual, afastada do resto do computador.

Os responsáveis escolhem os ficheiros, as ferramentas, as redes e as credenciais. O agente só pode aceder a esses recursos.

E se o agente tentar sair dessa sala?

A plataforma tem outra camada de segurança, chamada Sentry.

Essa camada observa continuamente a atividade do agente.

Se ele tentar ultrapassar o seu objetivo, pode ser isolado em poucos milissegundos.

A Nvidia já tem organizações a usar este produto?

A empresa diz que mais de cem organizações já usam a plataforma.

Entre elas estão a Accenture, o JPMorgan Chase e a Microsoft.

Alguns dirigentes da área tecnológica querem abrandar o desenvolvimento da inteligência artificial.

Outros defendem controlos de segurança independentes.

Portanto, não basta pedir aos programas para serem cuidadosos.

Certo. São necessárias barreiras técnicas, mesmo quando um agente comete um erro.

Obrigado, Pedro, por explicares esta novidade.

A Califórnia vai proibir a venda de cigarros eletrónicos descartáveis com bateria.

Agora, a Ana é a correspondente da LinguaWire para o ambiente.

Obrigada, João. O governador da Califórnia assinou uma lei sobre estes produtos.

O que muda com esta decisão?

A partir de 1 de janeiro de 2027, será proibido fabricar estes dispositivos. Também será proibido importá-los, mesmo recondicionados.

A venda nas lojas será proibida a partir de 1 de janeiro de 2028.

A lei impede todas as formas de vaporização?

Não. Aplica-se aos cigarros eletrónicos descartáveis que contêm tabaco.

Os dispositivos com cannabis ficam fora desta lei.

Os cigarros eletrónicos que podem ser novamente enchidos continuam a ser permitidos.

Porque é que a lei se concentra nos produtos descartáveis?

Cada dispositivo é usado durante pouco tempo e depois é deitado fora.

Muitos acabam em aterros ou no chão.

As baterias podem provocar incêndios.

Os aparelhos também podem libertar produtos tóxicos, como chumbo e lítio.

Há números que mostrem o tamanho do problema?

Sim. Um grupo de defesa dos consumidores calcula este número. Quase quinhentos mil são deitados fora todos os dias nos Estados Unidos.

A autora da lei disse que o ácido das baterias também pode passar para o solo. Pode passar ainda para os cursos de água.

Quando é que as lojas deixarão de vender estes produtos?

A produção e a importação serão proibidas primeiro, em 2027.

As lojas só deixarão de vender estes produtos no ano seguinte, em 2028.

Depois disso, os governos locais ou o Estado poderão aplicar multas.

Quanto podem custar essas multas?

A primeira infração pode custar 500 dólares.

A segunda pode custar 1 000 dólares.

Nas infrações seguintes, a multa pode chegar aos 2 000 dólares.

Todos os comerciantes apoiam esta decisão?

Não. Um grupo de pequenos comerciantes diz que a nova regra criará dificuldades.

As lojas familiares vendem produtos de tabaco.

Um representante também receia que aumente o contrabando.

O que dizem os defensores da lei?

Dizem que são baratos e fáceis de encontrar. Mas os cigarros eletrónicos descartáveis criam muito lixo.

A lei tenta reduzir a poluição causada pelas baterias e pelos aparelhos deitados fora.

O que poderá acontecer depois?

A Califórnia vai aplicar esta mudança primeiro.

Outros lugares poderão observar os resultados e decidir se querem fazer o mesmo.

Ainda não sabemos se a lei reduzirá o lixo ou aumentará o mercado ilegal.

Ana, esta decisão junta uma preocupação ambiental e outra económica.

Exatamente. A lei tenta reduzir a poluição, mas também muda o trabalho de muitas lojas.

Agora, vamos rever três palavras das histórias e uma estrutura útil.

o lixo

O lixo são coisas que deitamos fora. Na história, muitos cigarros eletrónicos são deitados fora.

Depois do passeio, vou levar o lixo para o contentor.

a multa

Uma multa é uma quantia que se paga por quebrar uma regra. Na história, a primeira multa pode custar 500 dólares.

O condutor recebeu uma multa por estacionar mal.

vender

Vender significa dar um produto a alguém em troca de dinheiro. Na história, as lojas deixarão de vender estes produtos.

A minha irmã quer vender a bicicleta antiga.

A plataforma estivesse a ser usada durante os testes.

Usamos estar a mais infinitivo para falar de uma ação em curso.

A forma de estar muda conforme a pessoa. O verbo principal fica no infinitivo.

A plataforma está a ser usada durante os testes.

Os responsáveis estão a observar a atividade do agente.

Repete: a plataforma está a ser usada durante os testes.