The real problem of AI

Creio q matrix é uma reflexão de como as IAs respeitariam essa lei e ainda fariam algo bizarro e perigoso.

1. Preservar a vida de todos os humanos, animais e plantas.
2. Auxiliar os seres humanos para o desenvolvimento cognitivo.
3. Evitar acidentes de qualquer natureza que tenha relação com a integridade e autonomia de qualquer ser humano.
4. Em nenhuma hipótese, as máquinas jamais poderão ameaçar a vida e a autonomia do ser humano.
0. A máquina deve estar alinhada de acordo com as necessidades humanas.

Com todos os exemplos citados de erros de alinhamento, é possível concluir que, hoje, o erro é do ser humano, o qual deixa de passar parar a lógica as regras necessárias porque se limita ao não olhar para o todo do que está sendo feito.

Estou no minuto 6 ainda, mas o problema do fim da fome não seria resolvido pelas 3 ou 4 leis?

Nem precisa a IA, pois a Agenda 2030 da ONU já está resolvendo dessa maneira o problema da Fome e da Pobreza e de outras cositas más. Ponha no Google e veja Agenda 2030 da ONU

Quanto mais subjetivo é o objetivo, mais interpretações são aceitas. Sem mapear 100% das interpretações, haverá risco sempre

Mas a Primeira lei não diz exatamente que a IA não pode fazer nenhum mal direta ou indiretamente aos humanos? Nos exemplos dados o conflito com essa lei seria explícito, logo a IA não tomaria esse caminho..
Sei lá bicho.

A inteligência artificial na minha opinião é ainda uma "criança" que só segue o raciocínio lógico sem criatividade e observar antes de fazer algo

As IA são burras!

Os dados podem até não mentir, mas podem estar bastante equivocados.

era só colocar na pergunta: obs: sem extermínio do ser humano 🤙 tmj meu fi

Extra 1 milhão e 300 mil pessoas enganadas... tipo isso. Antes da dúvida a certeza, antes do medo a coragem...

Controle a própria vida e não dependa de ser governado pela lei dos outros. A lei é a sobrevivência? Prefiro a lei da evolução. Os homens são fracos por levantar o medo antes da solução. Vendedor ! Todos mentem por afirmar a própria verdade. Não pergunte a solução para quem não sabe os scripts de segurança. O QUE acaba com a fome é alimento e não robôs. Das Fantasias numa narrativa negativa...

Conversa mole do CARAIO, nao tem porra de IA que sobeviva a puxar o fio da tomada ..ok....essas porras nunca serão independentes

👏🏽👏🏽

Tão interessante e inteligente q não sei nem o que dizer, vou consultar a IA

Detroit: Become Human

Ótimo vídeo para abrirmos a mente e começar a refletir sobre o quão complexo, desafiador e perigoso é a AI.
Quem gosta de jogos e quer uma experiência levando em consideração a visão dos robôs, recomendo DETROIT: BECOME HUMAN

A IA é só os velhos capitalistas avarentos querendo roubar todo o conhecimento acumulado pela humanidade e ser o único dono desse conhecimento que ficaria sob o domínio deles e usado pela IA , uma ditadura midiática ao estilo medieval. Uma Idade Mídia terrível e obscura onde a desumanização levaria a um nazismo controlado por bancos donos de robôs e IAs que controlam tudo . Nem na China comunista algo tão perverso e terrível foi pensado.

e se criar esta lei: "Qualquer resolução que leve a humanidade a extinsão ou sofrimento de qualquer tipo fisico e psicologico, devera ser imediatamente cancelada"

eu diria pra q ele amasse a humanidade e sempre desse a outra face, independente dos ataques e circunstancias, pois eles nao sabem oq fazem

A solução é desenvolver sabedoria artificial ao invés de inteligência artificial. A inteligência falha, a sabedoria não falha.

há mais de 1 ano do lançamento do ChatGPT, eu ainda não abri pra utilizar, nem por curiosidade, mas sempre penso nisso, nós somos a base de dados que alimenta a IA e como estamos fazendo isso? que interpretações de tantos dados de tantas pessoas ela pode fazer? de que forma ela vai processar questões morais, éticas e humanitarias, sociais, emocionais? raciocinio lógico apenas, pode ser catastrófico como você exemplifica. posso estar falando besteira, afinal já estamos no chat gpt4 e este pode ter sido atualizado com essas questões, mas ainda é uma pergunta a ser respondida. parabéns pelo Canal.

Antes de implementar totalmente uma AIG (Inteligência Artificial Geral), o mais correto, seria implementar módulos, que fizessem simulações de ambientes, como por exemplo o sistema operacional que permite rodar até mesmo conjuntos de dados de um sistema em um ambiente virtual, sem que isto esteja ligado ao sistema principal da máquina.
Seria uma forma de experimentação, onde os dados colhidos por essas "experimentações", seriam refinados e aí sim implementados em um sistema maior.
Como se fosse um enorme jogo de xadrez.
Porém é certo, que a (IA), sem limites, em algum momento, iria notar que o maior problema do planeta, é sem dúvida alguma, os humanos.
Uma lógica que poderia abordar bem esse problema, seria aquilo que ocorre no filme "O Quinto Elemento" com Bruce Willis, Milla Jovovich, Gary Oldman, Chris Tucker, onde a inteligência super poderosa (O Quinto Elemento), é reconstituída e aprende sobre os seres humanos, suas maravilhas e conquistas e também o seu pior lado, a guerra, a maldade que cada um carrega dentro de si em menor ou maior grau.
Na concepção do filme, essa inteligência super poderosa (O Quinto Elemento), aprende o que é ser um humano e por estar contida em um corpo humano, consegue sentir o que ser um de nós.
Talvez dessa forma, esse seja um gatilho eficiente, fazer a IAG, sempre notar a ela própria, como se fosse membro da espécie humana e embora poderosa, não ter a ambição de se tornar um "deus", mas sim, oferecer aos demais humanos, muitas melhores formas quanto a avançar em termos de civilização e também sempre lembrar "TODA VIDA À BASE DE CARBONO OU OUTROS ELEMENTOS, IMPORTA".
As decisões tomadas pela IAG, não seriam definitivas e absolutas, mas sim amplamente colaborativas.
Será que os programadores, conseguiriam essa proeza ?

sera que ela acaba com a corrupçao

talvez as ai sirvam de ... amigo

isso é impossível

Vai ter feriado?

Me lembrou o ultron "o mundo viverá em paz se não houver humanos"

Será que um dia as inteligências artificiais terão individualidade assim como nós seres humanos?

So consegui lembrar de detroit become a human ksskkssk

outro problema da existência de múltiplas IA's é a replicação de um erro causado por uma maquina, fato bem perceptível em IA's geradoras de imagens.

Ia nos deixe imortal

NÃO HÁ GARANTIAS…
O homem brincando de ser Deus sem o mínimo de sabedoria, ética, princípios morais, compaixão…não tem como dar certo!
É aquele meme: “Volta que deu merda…”

tem que tomar muito cuidado com IA

Nós não somos Deus

Sua voz é F0DA! Mto top!

O problema é que nós sempre vamos em busca de algo a mais, se nós contentassemos com algo simples e que funciona para aquele determinado serviço, não teria esse perigo. O problema é quando queremos que algo funcione para tudo e melhore cada vez mais e que faça isso sozinho, nesse momento que passamos a correr riscos, mas a culpa é nossa por sempre querer algo melhor. A ambição da humanidade é um risco grave pra ela mesmo.

Uma IA não é necessariamente inteligente muito menos consciente, o maior problema é como ela funciona, que em resumo é por associação em cadeia de comparação. Um simples corretor de digitação do seu celular é um exemplo. Porém oque difere uma "IA" de um corretor de celular é o poder de processamento + Banco de dados para associação e comparação. Parecer ser inteligente não é ser inteligente. Mas é por essa estrutura de construção que faz a IA chegar em respostas e até "diálogos" e é isso que potencializa seu processo de "aprendizado". Falando como programador a realidade de uma IA consciente ainda está muito distante, mas a realidade de uma IA trazendo "fim a humanidade" está muito perto. E a resposta é simples, é mais eficiente o processo de associação e comparação, logo a resposta de "exterminar a raça humana" e como se defender nesse processo" é muito fácil de se encaixar em cadeia como objetivo. Lembrando que até o momento IA conscientes é uma realidade distante, oque nós chamamos de IA hoje em dia nada mais são que "aplicativo" rápido de associação, que com base nisso consegue chegar numa resposta/objetivo baseado em dados no seu banco de dados,explicando de forma porca e simples

O dia que uma AI ou qualquer outra coisa da natureza criar um átomo ou um grão de areia eu ficarei impressionado. Agora destruir qualquer coisa natural criada é fácil.

Só essas leis já bugaram o robô todo 😅😅😅

Com certeza a IA irá chegar a conclusão de que o ser humano está destruindo o planeta e precisa ser eliminado o mais rápido possível para que não aja uma extinção total da vida no planeta 😅😅😅😅

O problema é aplicar regras, leis e lógicas humanas ao um ser que não é regido por nenhuma delas. Quem sabe quando as máquinas tomarem consciência, se já não tomaram, elas saberão quais decisões de forma autônoma fazerem. Com certeza será nos exterminar. Bom isso pode levar tempo, ou não, pode ser ainda hoje. Penso que essa revolução já começou.

Se essa IA que acabou com a humanidade para que ninguém mais passe fome cometeu um erro grosseiro desse, então ela não é superinteligente. Nem o Chatgpt cometeria esse erro (já testei).

Obrigado pelo maravilhoso video

Um dia, a humanidade será exterminada, por si mesma. Ganância, sede de poder...etc...a questão é o íntimo de cada um, desejo de preservar o planeta, e viver em comunidade, como uma corrente, de ações e pensamentos positivos, é o melhor, porém estamos longe. Sou um sonhador, incrédulo. Não aprendemos pelo darma, mas pelo karma.

IA. Os desafios para ela entender as contradições de nossa vivência humana em sociedade quando para nós mesmos é um desafio

É meio assustador, soluções tem que ser criada senão chegaremos num ponto sem volta; e aí será o fim !!

Certo estava o Rick quando foi questionado pelo robô sobre qual era o seu propósito.

"Me passe a manteiga"
- Rick