numa equação indeterminada".
(Irmãos Karamazov - Dostoiévsky)
A frase de Dostoiévsky descreve bem o que uma entidade artificial inteligente pensaria num mundo dominado por costumes e hábitos humanos.
Esse final de semana assisti ao filme 'Her' e ontem li o livro 'Smarter Than Us: The Rise of Machine Intelligence' de Stuart Armstrong. O que tenho a dizer sobre essas duas obras?
O filme 'Her' é fantástico! Demonstra uma pessoa sensível se apaixonando loucamente pelo sistema operacional de seu smart phone, literalmente uma entidade artificial inteligente.
Joaquin Phoenix está brilhante! Mas a parte do filme que nos interessa é vermos a possibilidade de humanos 'sofrerem' dor sentimental por conta de uma inteligência artificial! Pode uma inteligência artificial cativar um ser humano e levá-lo ao sofrimento e a tomar ações indesejáveis?
São vários os questionamentos que esse filme traz, tais como a solidão do homem moderno, a carência afetiva que a tecnologia acaba criando, dentre outros temas interessantes.
Softwares como Apple Siri, Google Now e Microsoft Cortana são classificados atualmente como 'Intelligent personal assistant', no entanto é questão de tempo para que se tornem tão inteligentes quanto a Samantha do filme Her.
Os criadores da Siri estão trabalhando em criar sistemas inteligentes que ensinam a si mesmos. Então, esses sistemas tendem no futuro a não apenas responder e sugerir opções, mas interagir inteligentemente com seus usuários e evoluir por conta própria.
Outro software que tem seguido essa linha é o Wolfram Alpha. Criado por Stephen Wolfram, essa é uma inteligência artificial que não apenas responde uma pesquisa com dados, mas também correlaciona a resposta com várias outras informações que podem ser de interesse do usuário. Wolfram Alpha relembra muito o que era classificado outrora(GOFAI) como sistema baseado em conhecimento, no entanto, se encontra num estágio bem evoluído e deve trabalhar interagindo muitos modelos diferentes de IA.
Como se esses exemplos não bastasse, temos ainda o Watson da IBM que demonstrou a possibilidade de um sistema computadorizado inteligente poder aprender e evoluir através do acesso a conhecimento ilimitado. Ao vencer o Jeopard!, o Watson colocou os computadores numa nova era, onde IAs conseguem vencer humanos em campos altamente especializados envolvendo a compreensão de linguagem natural.
Com todos esses avanços, podemos nos assustar e pensar que um dia a inteligência artificial vai representar um perigo para a sociedade humana.
Isso é realmente preocupante e o livro 'Smarter Than Us: The Rise of Machine Intelligence' de Stuart Armstrong descreve justamente inúmeros cenários onde sistemas de inteligência artificial podem criar sérios problemas para os humanos.
Achei fascinante a parte em que ele descreve um cenário onde uma inteligência artificial é designada para 'salvar a mãe de um usuário de um incêndio' e como é importante visualizar o que uma máquina pode compreender quando ela recebe uma ordem.
Stuart Armstrong levanta a necessidade de se criar mecanismos que impeçam as máquinas de se modificarem ao ponto de ultrapassar limites e representar perigos à raça humana. Ele tem criado um instituto chamado "Future of Humanity Institute" junto com outros colaboradores(inclusive Nick Bostrom, falarei dele num post futuro) para discutir os perigos que as Inteligências Artificiais podem trazer a humanidade.
No livro, ele deixa claro que não resta dúvida de que a hora para discutir aspectos éticos e limites para as inteligências artificiais é antes delas se tornarem fortes e autônomas. Esse momento, talvez seja agora! Já que uma IA pode a qualquer momento extrapolar e exceder os limites a ela delineados.
Nenhum comentário:
Postar um comentário
Comentários são moderados visando evitar spams e permitir discussões sadias.