Inteligência Artificial e Direito

por Paola Cantarini

[Abstract] “In a data-driven or transparency society, artificial intelligence surrounds all sectors of our daily lives, leading to the expression “data is the new oil”. With the increased intensity in all kinds of technical connections and the increase in social time available, there are those who postulate that this is leading us to the end of humanism (Achille Mbembe) and mankind in general. Artificial intelligence leads to many impacts and changes in all social sectors, what with the virtualization of our being, our personas, and bodies. It also leads to the creation of new everchanging subjectivities spawned from new conceptions of time and space (Lucia Santaella). In face of the social and cultural transformation, seeping into human subjectivity, what would be the appropriate concept of being human in this day and age? What would be the appropriate concept for culture, along with language, its sub-product?“

 

VIRTUALIDADES HÍBRIDAS: NOVAS SUBJETIVIDADES E LINGUAGEM CIBERORAL

Vivemos o inferno do igual, com a homogeneização constante de nossas personas, transformando todos em iguais, anulando-se a diferença, a singularidade, o que já havia sido vislumbrado por Michel Foucault ao trabalhar com as noções de sociedade da disciplina, da regulamentação e da normalização; o estranho, o diferente, é descartado, impondo-se a norma; o diverso é descartado como uma espécie de “homo sacer”, conceito do direito penal romano arcaico trabalhado de último, sobretudo, por Giorgio Agamben. Slavoj Žižek e Judith Butler ao analisarem a tragédia grega de Sófocles “Antígona” ressaltam que todos nós somos atualmente “homini sacri”.

Neste sentido Achille Mbembe, com fundamento em Foucault, afirma que vivemos atualmente sob o domínio da “necropolítica”, do necropoder, a junção do biopoder com o estado de exceção/estado de sítio (“Crítica da razão negra” e “Necropolítica”). Há um dispositivo fantasmático do poder colonizador, sendo o negro o espectro da modernidade. Há o devir negro do mundo com a violência fantasmal que se baseia na negação de qualquer singularidade essencial (Achille Mbembe, “Crítica da razão negra”, São Paulo: n-1, 2018, p. 229; p. 234; p. 250). Ocorre a universalização da condição negra no mundo e transformação do ser humano em dados numéricos e códigos (Achille Mbembe, “Necropolítica”).

Inteligência artificial : uma implementação com base em Peirce

por Ricardo Maciel Gazoni

[Abstract] “The text presents a work-in-progress that aims to implement an artificial intelligence based on a Peircean framework. It is based on the belief that although (in a Peircean sense) concepts such as reasoning and thinking are already carried out by computers, it is possible to implement them in a more familiar way, allowing programming in a more dialogic and less deterministic way. It uses as an example a program capable of  learning to play and finding a way to win matches. This idea is complemented by abstractions that would allow the program to perform self-reflection and proper comunication.”

* * *

Este fecundo webespaço abrigou recentemente três posts que tocam a questão da execução, por máquinas, de atividades que até recentemente só se viam em seres vivos. O presente texto foi induzido por essas intervenções:

Eduardo Camargo, n’Os olhos do robô, pergunta: “como emular, em um robô, comportamentos humanos tão perfeitos que nem mesmo seu olhar consiga traí-lo? E como fazer Sophia [um robô humanoide] lidar com o paradoxo de dizer não, quando está programada para dizer sim?”.

Noutro post, Alberto Cabral sobrevoa a relação entre IA e games (aqui), e nos lembra das experiências extraordinariamente envolventes dos jogos eletrônicos – têm de ser assim, são seu argumento de venda – e da verossimilhança das inteligências artificiais  utilizadas neles. Apesar de parecerem “emocionalmente” humanas, são classificadas como inteligências artificiais “fracas”. Cabral cita Russel e Norvig para explicar: “a abordagem que considera que máquinas podem agir como se fossem inteligentes é chamada pelos filósofos de hipótese da IA Fraca, e a abordagem que considera que ao agir inteligentemente as máquinas possam de fato estar pensando (e não apenas simulando pensamento) é chamada de hipótese da IA Forte”.

As colocações de Cabral não passaram despercebidas a Odécio Souza, que aqui repudia o uso dos termos “forte” e “fraca” por conta de sua superficialidade; seu texto levanta diversas questões que destacam a complexidade do tema: moral, legislação, identidade, entre outros.

A ideia

A pesquisa que recentemente defendi na tese de doutorado (“Computadores eletrônicos como agentes semióticos autônomos”, disponível aqui) propõe elementos dentro da filosofia de Peirce que podem ser aplicados aos computadores. Isso permitiria uma autonomia de atuação que talvez abra caminho para uma programação “dialógica”. Nessa forma de interação, a máquina não segue um conjunto rígido de instruções mas, antes, é capaz de gerar resultados a partir de definições um pouco mais vagas e propor, por si, soluções ao que se lhe propõe.

Alguns questionamentos que se pretendem inteligentes sobre a artificialidade

por Odécio Souza

[Abstract]
“For the purpose of this publication, I take questions that I consider basic, addressing the so-called Artificial Intelligence (AI). These questions are intended to refer to the nomenclature of this intricate and multidisciplinary science, to say something about its feasibility, and to introduce some analysis of the morality to which it applies, and hence the ethics to be expected of it.
Note that by AI you can take both, a whole field of scientific research and technological development, and – by looking at your own smartphone – a voice recognition “App”. This is my first question: Does such a broad possibility not require scrutiny that allows a better understanding of what it refers to?”

Sumário

Como objetivo desta publicação, tomo questões que considero básicas e que se dirigem à assim chamada Inteligência Artificial (IA). Estas questões pretendem referenciar a nomenclatura dessa intrincada e multidisciplinar ciência, dizer algo sobre sua exequibilidade, e introduzir alguma análise a respeito da moral que a ela se aplica, portanto, a ética que dela se espera.

Observe-se que por IA pode-se tomar ambos, tanto todo um campo de pesquisa científica e de desenvolvimento tecnológico, quanto – ao observar seu próprio smartphone – um “App[1]” de reconhecimento de voz. Está aí meu primeiro questionamento: Uma possibilidade assim ampla não carece de um escrutínio que permita um melhor entendimento sobre o que se refere?

 

Alcunha

Ao citar a polarização entre IA Fraca e IA Forte, Cabral (2019) reproduz uma visão que julgo perigosa e superficial.[2] Não desejo, com tal assertiva, rivalizar com ele, ou contestar sua exposição, mas opinar que a IA, enquanto matéria fecunda e intensa, merece, no cenário presente, uma ontologia melhor.

Tomo ontologia como a necessidade de análise de um conjunto de saberes, ou “parte da filosofia que estuda a natureza dos seres, o ser enquanto ser.” (Aulete, s.v. “ontologia”). Desejo argumentar que a natureza da pressuposta inteligência exercida por máquinas carece de explicações mais esclarecedoras, detalhadas de uma forma melhor. É óbvio que o estudioso da IA conhece seus níveis, possibilidades e limitações, mas estaria alguém realizando o devido esclarecimento sobre essa matéria para os não especialistas?

Os olhos do robô

 

HAL 9000 Eye[1]

 

por Eduardo Camargo

[Abstract]
“Is it possible to program a robot to emulate human behaviour in its details? This post proposes some reflections on this issue by analyzing the differences between the eyes of robots and humans, in real world and fiction. Besides that, Atlas by Boston Robotics and Sophia by Hanson Robotics, two humanoid robots that help in understanding the differences between simulation and emulation are presented.”

 

“I found an island in your arms
A country in your eyes
Arms that chain, eyes that lie
Break on through to the other side” ^[2]

1. Atlas e Sophia

Atlas^[3] é um humanoide extraordinário. O robô desenvolvido pela Boston Dynamics^[4] mimetiza movimentos humanos com precisão assombrosa considerando-se tratar de uma máquina de 1,8 m de altura e 150 Kg. Ele anda com destreza, salta, faz cambalhotas, gira no ar e pousa com elegância olímpica. Mas, é estúpido. Como qualquer artefato mecatrônico, são apenas sensores e atuadores que, controlados por um algoritmo implacável, permitem desempenho quase fantástico. Além de promover espetáculos atléticos, o objetivo maior da plataforma Atlas é avançar a pesquisa em mobilidade robótica através de um hardware capaz de exceder a capacidade humana de trabalho com agilidade e equilíbrio. Em resumo, Atlas quer ser uma espécie de titã robótico, carregando o peso do mundo nas costas enquanto cuidamos de afazeres mais nobres.

Sophia^[5] também é uma robô bastante avançada e com propósitos ainda mais ambiciosos do que os de Atlas. A Hanson Robotics de Hong Kong, sua desenvolvedora, apresenta-se como uma companhia dedicada a criar máquinas socialmente inteligentes que enriqueçam nossa qualidade de vida^[6]. A companhia desenvolveu um website com o título Being Sophia^[7] onde nos convida a acompanhar a emergência da humanoide, suas aventuras, suas experiências e sua busca por aprendizado e desenvolvimento até se tornar um ser super-inteligente e benevolente. Sophia, definitivamente, não tem vocação para besta de carga, ao contrário do pobre Atlas. Mas, apesar da combinação da IA simbólica com redes neurais, sistemas especialistas, percepção de máquina, processamento de linguagem natural, controle motor adaptativo, arquitetura cognitiva e outras técnicas responsáveis pela programação de Sophia, ela estaria apta a extrapolar o campo da estupidez programada para, realmente, enriquecer nossa qualidade de vida?

A diferença de propósitos dos dois projetos aponta diretamente para a diferença entre simulação e emulação. Enquanto se espera de Atlas, simplesmente, a obediência servil para cumprir suas tarefas de maneira eficiente e segura, simulando aspectos da mobilidade humana, Sophia precisa ir além, precisa emular de maneira inequívoca o seu modelo ao ponto de não ser possível diferenciá-los. Somente assim, teríamos a possibilidade de uma resposta positiva à questão proposta. No entanto, há problemas. A emulação da complexidade humana parece uma tarefa intransponível. Consideremos um exemplo: os olhos. Comecemos com uma hipótese, a de que seria possível emular os olhos humanos, ao menos em sua estrutura. Vamos tomar os robôs do cinema como analogia para refletir sobre a suficiência desta hipótese para o caso de Sophia. Depois, veremos como retornar à realidade.

Sobrevoando a relação entre Inteligência Artificial e Games

por Alberto Cabral

[Abstract] “This post presents a panoramic overview of the intertwined relation between AI and Videogames, presenting some introductory algorithmic and programing concepts as well as a couple of didactic examples on game programing situations where AI could be applied, before highlighting a small sample of the large amount of AI strategies and Smart Agents employed on this sort of software development.”

Interconectados praticamente desde suas origens, Games e IA são produtos da exorbitante aceleração tecnológica que assomou o mundo no século XX, numa intrincada e crescente cadeia de interrelações de descobertas, avanços e desenvolvimentos tecnológicos que nos apresentam, no século XXI, uma realidade com alguns elementos que nossos antepassados, poucas gerações atrás, considerariam “mágicos”.

Realcemos, antes de mais nada, que o presente post não ambiciona abranger todo o arcabouço desse extenso assunto, mas apenas apresentar um olhar panorâmico sobre alguns pressupostos e elementos da relação entre Games e IA, dentro dos limites do escopo proposto e sob o viés do recorte de minha atual pesquisa, tomando a liberdade de flertar com alguns detalhes quando os mesmos me parecerem relevantes e necessários à apresentação do assunto.

Cabe notar que, conforme assumido por Santaella e Feitoza (2009, p. IX) e apontado por Jeannie Novak (2012, p. 5),  chamamos de “games” todas variações de jogos de videogame desenvolvidos por meio de programação, seja em computadores pessoais, dispositivos móveis, consoles dedicados fixos ou portáteis e quaisquer plataformas de base computacional aptas a executar software desse tipo.

Tenhamos em mente que, a despeito de tanto os games, quanto a IA, serem produtos da Tecnologia da Informação, ligadas primariamente às engenharias – eletrônica e de software – parece-nos saudável reconhecer a importância e a profundidade da dependência entrelaçada de tecnologias que constrói o arcabouço estrutural que as sustenta. A progressão da complexidade dos sistemas de software depende dos avanços na tecnologia de fabricação dos semicondutores com os quais são construídos os microchips dos processadores, controladores, memórias, interfaces, sensores etc. que compõem o hardware dos sistemas computacionais.

Centro de Pesquisa Stanford HAI vs FAPESP-IBM: inspirações e aprendizados

por Dora Kaufman

[Abstract]: “There are large differences between Stanford HAI and IBM – FAPESP Center – investment volume (1 billion dollars vs. 10 million dollars / 10 years), scientific production and insertion in the field of AI of the American university vs any university in São Paulo, consequently visibility and potential global impact – the common point is the recognition of the relevance of AI in the XXI century society. One aspect, however, can be inspired by Stanford: social impacts are inherent in technological development and must be addressed in each project (rather than in isolation, as social and sustainability projects are usually addressed by companies). New technologies or processes produce macro effects (ethical, social, labor market, business models, skills) and micro effects circumscribed to the application area / region.“

 

A universidade de Stanford lançou o Stanford HAI, centro de pesquisa em inteligência artificial (IA), num Simpósio em 18 de março último com a participação de expoentes pesquisadores e empreendedores. No dia seguinte, 19 de março, a IBM e a FAPESP debateram com a comunidade acadêmica paulista o edital para a criação de um centro de pesquisa em IA. Não obstante as diferenças de realidades, motivações e escopos, a coincidência de datas estimula uma reflexão; o ponto em comum das duas iniciativas é o reconhecimento da relevância da IA na sociedade do Século XXI.

Desde os primórdios do campo (1956), Stanford tem tido papel de destaque na formação de parte considerável dos especialistas que atuam em universidades e em empresas mundo afora. Fundado em 1962 por um dos “pais” da IA, John McCarthy, o SAIL (Stanford Artificial Intelligence Lab) tem se  mantido na vanguarda da pesquisa e do ensino, contribuindo com investigações e aplicações inovadoras fundamentais em distintas áreas. O Stanford HAI surge em resposta à pressão da sociedade pelo entendimento e equacionamento dos impactos sociais e éticos, particularmente sobre à comunidade do Vale do Silício.

Saiba como foi a palestra INTELIGÊNCIA ARTIFICIAL: QUEM SERÃO OS GANHADORES?, de Ana Paula Assis

Por Isabel Jungk

[Abstract]: “The Postgraduate Program in Technologies of Intelligence and Digital Design at São Paulo Catholic University (http://www.pucsp.br/pos/tidd/), under the guidance of Lucia Santaella, received this week Ana Paula Assis, President of IBM Latin America with more than 20 years of IT experience. The lecture was mediated by Dora Kaufman, researcher in digital transformation and its impacts.
The speaker explained the key points to reflect on the consequences of the increasing use of artificial intelligence, and pointed out that AI is and will continue to be a factor of advancement, progress and development for industry and society in the coming years, generating new jobs for which it is necessary to enable ourselves in a continuous learning process.
After the lecture, three books on the theme were released: Desafios humanos no contemporâneo, edited by Lucia Santaella; A inteligência artificial irá suplantar a inteligência humana?, by Dora Kaufman, and Artificial Intelligences. Essays on inorganic and nonbiological systems, edited by Alexandre Quaresma.”

Nesta segunda, dia 18/03/2019, às 17hs, no auditório da Rua Marquês de Paranaguá, 111, Campus Consolação, o Programa de Pós-Graduação em Tecnologias da Inteligência e Design Digital da Pontifícia Universidade Católica de São Paulo (TIDD/PUC-SP), coordenado pela professora Lucia Santaella, recebeu Ana Paula Assis, Presidente da IBM América Latina com mais de 20 anos de experiência internacional na indústria de TI e reconhecida formadora de opinião em inteligência artificial e responsabilidade de dados.  A palestra contou com a mediação de Dora Kaufman, pesquisadora em transformação digital e seus impactos.

Ana Paula Assis, Presidente da IBM América Latina, 
no TIDD/PUC-SP, Março/2019.

Falando aos alunos e convidados do TIDD durante aproximadamente uma hora, Ana Paula levantou pontos fundamentais para pensar as consequências das novas tecnologias. Fazendo a ponte entre a indústria e a sociedade, o mercado e a academia, a executiva deixou claro que, apesar das polêmicas que vem suscitando, a inteligência artificial será um fator de avanço, de progresso e desenvolvimento no presente e no futuro.

AULA MAGNA DO TIDD E LANÇAMENTO DE LIVROS

INTELIGÊNCIA ARTIFICIAL: QUEM SERÃO OS GANHADORES?
A inteligência artificial é hoje uma realidade. A discussão agora é sobre o que as pessoas, corporações, governos e instituições de ensino precisam para fazer disso um diferencial competitivo.  Questões como segurança de dados, ética e a colaboração entre homens e máquinas pedem respostas rápidas e efetivas para que todos – e não apenas alguns poucos – sejam vencedores nesta nova era.

Palestrante: Ana Paula Assis
É Presidente da IBM América Latina desde julho de 2017. Durante seus mais de 20 anos de experiência internacional na indústria de TI, Ana dedicou sua carreira ao desenvolvimento de negócios estratégicos, gestão de mudanças em organizações grandes e multiculturais, e à liderança inovadora. Ana é reconhecida no mercado como líder de opinião em inteligência artificial e responsabilidade de dados. Também está comprometida com o desenvolvimento de ambientes de trabalho cada vez mais inclusivos e com o contínuo avanço da educação para impulsionar as capacidades das profissões do futuro. Anteriormente a esta função, foi Vice-Presidente de Software para a IBM Greater China Group e Gerente Geral de Technology Services para a América Latina. Ana é membro do conselho da JA Americas. Em 2019, foi reconhecida pela Forbes como uma das 20 Mulheres Mais Poderosas do Brasil.

Rua Caio Prado, 102 | Auditório 1º Andar  | 18/03 – 17hrs

Simpósio de Inteligência Artificial e Consciência

Simpósio Inteligência Artificial e Consciência – promovido pelo Programa de Estudos Pós-graduados em Tecnologias da Inteligência e Design Digital – TIDD (PUC-SP) e Sesc-SP
28 e 29 de novembro de 2018
Local: Teatro Sesc 24 de Maio   Rua 24 de Maio, 109 – República, São Paulo – SP

 

O Programa de Estudos Pós-Graduados em Tecnologias da Inteligência e Design Digital – TIDD (PUC-SP), em seu empenho em construir pontes teóricas entre a ciência da computação e as ciências sociais, em 2017 introduziu o tema dos impactos sociais da inteligência artificial por meio de diversas iniciativas (curso de IA na pós-graduação, edição da revista TECCOGS sobre o tema, criação de grupo de pesquisa, participação em congressos e conferências no Brasil e no Exterior, dentre outras). O simpósio foi concebido como fórum de unificação e compartilhamento das pesquisas dos dois primeiros anos, com a comunidade acadêmica sobretudo os pesquisadores e os alunos de pós-graduação e graduação do Estado de São Paulo.

O objetivo é promover um espaço inter, multi e transdisciplinar para debates em torno dos impactos sociais da inteligência artificial, particularmente os decorrentes do avanço a partir dos anos 2006/2010 – resultados concretos obtidos do processo de aprendizado profundo (deep learning) -, e a consciência, contemplando a alegada distinção homem/máquina inteligente.

A programação mescla dois pesquisadores internacionais com significativas contribuições à pesquisa (o professor associado em ciência da computação no Courant Institute of Mathematical Sciences da New York University, Davi Geiger; e o semioticista uruguaio, membro da Faculdade de Pós-Graduação e Pós-Doutorado da Universidade de Ottawa, Fernando Andacht), pesquisadores brasileiros de notável reconhecimento entre os seus pares no Brasil e no exterior, e professores, pós-doutorandos e alunos de pós-graduação do TIDD. É uma oportunidade, dentre outras, de debater com a comunidade acadêmica as pesquisas que estão sendo desenvolvidas pelo programa.

Para enriquecer o debate e promover a aproximação entre universidade e sociedade, convidamos pesquisadores de duas líderes globais de tecnologia, IBM e Amazon, para expor seus estágios de desenvolvimento com relação a inteligência artificial e desafios atuais e futuros.

Inteligência Artificial e o fascínio das máquinas criadoras

por Clayton Policarpo

[Abstract]

“As algorithms and machines threaten to take on works performed by humans, artistic creation emerges as another candidate for technology automation. The present paper proposes to deal with the approximations between Artificial Intelligence and Art from approaches in the field of computational creativity, theories of art and examples of works that use data processing technologies.”

Figura 1. Detalhe do CloudPainter, 
projeto vencedor do RobotArt 2018. 
(http://www.cloudpainter.com/)

Introdução: no princípio era o código…

Diante do surgimento de máquinas capazes de processar grandes quantidades de dados e um investimento de capital sem precedentes, a Inteligência Artificial (IA) tem se estabelecido nos últimos anos no topo das discussões. A evolução de algoritmos de Deep Learning e Machine Learning parece suplantar as expectativas futurísticas que eram atribuídas às tecnologias de realidade virtual e internet das coisas. À medida que algoritmos e máquinas ameaçam assumir tarefas até então realizadas por humanos, a criação artística desponta na posição de mais uma candidata à automatização. Em meio a cenários de utopias e distopias, o debate candente acerca das máquinas pensantes e suas propriedades criativas adentram os territórios da arte.

É certo que não há consenso sobre a capacidade de máquinas se expressarem artisticamente. Embora existam redes neurais que podem reproduzir um Van Gogh , ou algoritmos que compõem sinfonias completas, não podemos afirmar que o resultado de tais experiências seja, de fato, arte. Historicamente, a produção em arte e tecnologia sempre esteve diante de entraves quanto à legitimidade das obras criadas e/ou a natureza da ação. Tais manifestações não contam com disposições preestabelecidas para os artistas, tanto menos para os críticos (SANTAELLA, 2016, p. 231).