Topic outline
-
Esta disciplina é coordenada pelo Tecs: grupo de Computação Social da USP sob supervisão do professor Carlos Eduardo Ferreira do Departamento de Ciência da Computação do IME-USP.
As aulas ocorrem às quartas, das 13h às 14h40, em sala virtual
Monitores da disciplina: Caio Fontes, Gabriel Maran e Juliana Trevine. Em caso de dúvidas e outras solicitações basta contatá-los através do e-mail: tecs@ime.usp.brPara acompanhar as atividades do Tecs, basta entrar no grupo do Telegram.
-
Sala Virtual URL
-
Drive! URL
-
formulário de feedback das aulas URL
-
-
-
-
Tecs
Monitores: Caio Fontes - caiofcastro@usp.br
Gabriel Maran - gabrielmaranribeiro@usp.br
Juliana Trevine - jtrevine@usp.br
Leitura obrigatória:
Moor, James H. What is computer ethics?. Disponível em: https://web.cs.ucdavis.edu/~rogaway/classes/188/spring06/papers/moor.html
-
Renata Wassermann
renata@ime.usp.br
Possui bacharelado em Ciência da Computacao pela Universidade de São Paulo (1991). Nos dois últimos anos da graduação, fez estágio no IPT, onde teve contato com a área de Inteligência Artificial. Tem mestrado em Matemática Aplicada pela Universidade de São Paulo (1995), doutorado em Ciência da Computação no Institute for Logic, Language and Computation, ILLC da Universidade de Amsterdã (1999) e livre-docência pela Universidade de São Paulo (2005). Atualmente é professora associada do Departamento de Ciência da Computação do Instituto de Matemática e Estatística da Universidade de São Paulo. Sua área de pesquisa é a Inteligência Artificial Simbólica ou Representação de Conhecimento. Membra do Grupo de Pesquisa Lógica, Inteligência Artificial e Métodos Fomais (LIAMF) e Diretora da Lawgorithm.
Leituras obrigatórias:
Turing, Alan M. Computing Machinery and Intelligence. Disponível em: https://academic.oup.com/mind/article/LIX/236/433/986238
Searle, John R. Minds, brains, and programs.
Leituras citadas:
1. The Philosophy of Artificial Intelligence - Margaret A. Boden2. Gödel, Escher, Bach: An Eternal Golden Braid - Douglas R. Hofstadter -
Enrico Roberto
enrico.roberto@live.com
Pesquisador no InternetLab. Doutorando no Departamento de Filosofia do Direito da USP. Mestre em Direito (LL.M.) pela Universidade de Munique (LMU-München). Pesquisa na área de Viés e Regulação em Inteligência Artificial, assim como Direitos Autorais, Responsabilidade Civil e Privacidade e Proteção de Dados. Advogado e fundador do Reggi & Roberto Advogados.
Leitura obrigatória:
George W. Reynolds. Ethics in information technology. Capítulo "An Overview of Ethics".
Leituras recomendadas:
Jonas, Hans. Toward a philosophy of technology.
Verbeek, Peter Paul. Materializing Morality.
-
Leituras obrigatórias:
Nissenbaum, Helen. A Contextual Approach to Privacy Online. Disponível em: https://www.amacad.org/publication/contextual-approach-privacy-online
Leonardi, Marcel. Tutela e Privacidade na Internet. Capítulo 2: Conceituação do direito à privacidade (p. 52 - 90). Disponível em: http://leonardi.adv.br/wp-content/uploads/2012/01/mltpi.pdf
Leituras recomendadas:
Nissenbaum, Helen; Barth, Adam; Datta, Anupam; Mitchell, John C. Privacy and Contextual Integrity. Disponível em: https://papers.ssrn.com/sol3/papers.cfm?abstract_id=2567438
Bioni, Bruno R. Xeque-Mate: o tripé de proteção de dados pessoais no xadrez das iniciativas legislativas no Brasil. Disponível em: https://www.academia.edu/28752561/Xeque-Mate_o_trip%C3%A9_de_prote%C3%A7%C3%A3o_de_dados_pessoais_no_xadrez_das_iniciativas_legislativas_no_Brasil
Gabriela Machado Vergili. Análise comparativa entre direito à privacidade e direito à proteção de dados pessoais e relação com o regime de dados públicos previsto na Lei Geral de Proteção de Dados. Disponível em: https://dataprivacy.com.br/analise-comparativa-entre-direito-a-privacidade-e-direito-a-protecao-de-dados-pessoais-e-relacao-com-o-regime-de-dados-publicos-previsto-na-lei-geral-de-protecao-de-dados/
-
Rafael Zanatta
Doutorando pelo Instituto de Energia e Ambiente da Universidade de São Paulo. É Mestre em Direito e Economia Política pela Universidade de Turim (2016). Mestre em Direito pela Universidade de São Paulo (2014), onde foi coordenador do Núcleo de Direito, Internet e Sociedade (2013) e monitor das disciplinas de Sociologia Jurídica (FD) e Instituições de Direito para Economistas (FEA). Foi líder de projeto do InternetLab. Foi pesquisador bolsista da Diretoria de Estudos e Políticas do Estado, das Instituições e da Democracia do Instituto de Pesquisas Econômicas Aplicadas (Diest/Ipea, 2013) e pesquisador bolsista da Escola de Direito de São Paulo da Fundação Getulio Vargas, onde integrou o projeto Globalization, Lawyers and Emerging Economies (FGV/Harvard, 2013)Leituras obrigatórias:
Boyd, Danah. Privacy and Publicity in the Context of Big Data. Disponível em: http://www.danah.org/papers/talks/2010/WWW2010.html
Peppet e Ohm. Big Data is not a Monolith. Capítulo "What if everything reveals everything?"
Bijl, A. F. Data Anonymization in the light of the General Data Protection Regulation. Disponível em: https://fse.studenttheses.ub.rug.nl/15709/1/thesisDataAnonymisation.pdf
O'Neil, Cathy. Weapons of Math Destruction. Capítulos 1 e 3.
Leitura recomendada:
Dwork, Cynthia & Mulligan, Deirdre K. It’s Not Privacy, and It’s Not Fair.
Mirani, Leo. London’s bike-share program unwittingly revealed its cyclists’ movements for the world to see. Disponível em: https://qz.com/199209/londons-bike-share-program-unwittingly-revealed-its-cyclists-movements-for-the-world-to-see/
- Data Privacy Brasil. Dadocracia. Episodioa 14 - Aplicativos de contact tracing despertam cuidados com privacidade. https://dataprivacy.com.br/dadocracia-episodio-14-aplicativos-de-contact-tracing-despertam-cuidados-com-privacidade/
-
Carla Vieira
Bacharel em Sistemas de Informação pela USP, mestranda em Inteligência Artificial pela USP, engenheira de software e Google Developer Expert em Machine Learning. Co-organizadora da perifaCode, buscando levar a tecnologia para dentro das periferias. Acredita na tecnologia como ferramenta de transformação social e tem estudado sobre como o viés inconsciente tem afetado a Inteligência Artificial e como tornar algoritmos "caixa preta" mais transparentes.Leitura obrigatórias:
- White House Office. Big Data: A report on algorithmic systems, opportunity and civil rights. Prefácio (pg 4-10). Disponível em: https://obamawhitehouse.archives.gov/sites/default/files/microsites/ostp/2016_0504_data_discrimination.pdf
- Barrowman, Nick. Correlation, Causation, and Confusion. Disponível em: https://www.thenewatlantis.com/publications/correlation-causation-and-confusion
- Benenson, Ted. Mathwashing, Facebook e o zeitgeist da adoração aos dados. Disponível em: (Original) https://technical.ly/brooklyn/2016/06/08/fred-benenson-mathwashing-facebook-data-worship/ | (Traduzida) https://medium.com/tecs-usp/mathwashing-facebook-e-o-zeitgeist-da-adora%C3%A7%C3%A3o-aos-dados-f29ce707180c
Leituras recomendadas:
White House Office. Big Data: A report on algorithmic systems, opportunity and civil rights. Case studies in the use of big data p.11-22
Silva, Tarcízio. Comunidades, algoritmos e ativismos digitais: Olhares afrodiaspóricos. Capítulo 7 (p.120 - 134). Disponível em: https://bit.ly/
ComunidadesDigitais Simões-Gomes, Letícia; Roberto, Enrico; Mendonça, Jônatas. Viés algorítmico – um balanço provisório. Disponível em: https://periodicos.fclar.
unesp.br/estudos/article/view/ 13402 Silva, Tarcízio. Desinteligência Artificial. Disponível em: https://tarciziosilva.com.br/
blog/desinteligencia- artificial-como-computadores- nao-compreendem-o-mundo/
Indicação para Aprofundamento:
Benjamin, Ruha. Race After Technology.
O'neil, Cathy. Weapons of Math Destruction
Broussard, Meredith. Artificial Unintelligence.
Documentário. Coded Bias. https://vimeo.com/ondemand/
codedbiasfilm Newsletter Desvelar. Conteúdos, notícias, chamadas e indicações de pesquisadores sobre sociedade e tecnologia. https://tarciziosilva.com.br/
blog/newsletter/
- White House Office. Big Data: A report on algorithmic systems, opportunity and civil rights. Prefácio (pg 4-10). Disponível em: https://obamawhitehouse.archives.gov/sites/default/files/microsites/ostp/2016_0504_data_discrimination.pdf
-
Marco Almada
Doutorando em Direito no Instituto Universitário Europeu (EUI). Antes de começar seu doutorado, estudou na Unicamp (Bacharelado em Ciência da Computação e Mestrado em Engenharia Elétrica) e na USP (Bacharelado em Direito) e trabalhou como cientista de dadosLeituras Obrigatórias:
- Ananny M and Crawford K, ‘Seeing without Knowing: Limitations of the Transparency Ideal and Its Application to Algorithmic Accountability’. New Media & Society. Disponível em: http://mike.ananny.org/papers/anannyCrawford_seeingWithoutKnowing_2016.pdf
- Burrell J., How the machine “thinks”: Understanding opacity in machine learning algorithms. Big Data & Society.
- Bibal A et al., ‘Legal Requirements on Explainability in Machine Learning’. Artificial Intelligence and Law. Disponível em: https://link.springer.com/article/10.1007/s10506-020-09270-4 (acesso pelo VPN da USP)
- FAT-ML Working Group,Principles for Accountable Algorithms and a Social Impact Statement for Algorithms. Disponível em: http://www.fatml.org/
resources/principles-for- accountable-algorithms
Leituras Recomendadas:
- Brkan M e Bonnet G, ‘Legal and Technical Feasibility of the
GDPR’s Quest for Explanation of Algorithmic Decisions: Of Black Boxes,
White Boxes and Fata Morganas’. European Journal of Risk Regulation. Disponível em: https://doi.org/10.1017/err.
2020.10 -
Kaminski ME, ‘The Right to Explanation, Explained’. Berkeley Technology Law Journal. Disponível em: https://lawcat.berkeley.edu/
record/1128984 - Goodman, B. e Flaxman, S. European Union regulations on algorithmic decision-making and a “right to explanation”.
- Ananny M and Crawford K, ‘Seeing without Knowing: Limitations of the Transparency Ideal and Its Application to Algorithmic Accountability’. New Media & Society. Disponível em: http://mike.ananny.org/papers/anannyCrawford_seeingWithoutKnowing_2016.pdf
-
Tecs
Leituras obrigatórias:
- Angwin, Julia; Larson, Jeff; Mattu, Surya; Kirchner, Lauren Machine Bias. ProPublica. Disponível em: https://www.propublica.org/article/machine-bias-risk-assessments-in-criminal-sentencing
- Sweeney, Latanya. Discrimination in Online Ad Delivery. Disponível em: https://queue.acm.org/detail.cfm?id=2460278
- Raji, I & Buolamwini, J. Actionable Auditing:
Investigating the Impact of Publicly Naming Biased Performance Results
of Commercial AI Products. Disponível em: https://www.media.mit.edu/publications/actionable-auditing-investigating-the-impact-of-publicly-naming-biased-performance-results-of-commercial-ai-products/
- Zhao, Jieyu; Wang, Tianlu; Yatskar, Mark; Ordonez, Vicente; Chang, Kai-Wei. Men Also Like Shopping: Reducing Gender Bias Amplification using Corpus-level Constraints. Disponível em: https://www.aclweb.org/anthology/D17-1323/
- Simonite, Tom. When it comes to Gorillas, Google Photos remains blind. Disponível em: https://www.wired.com/story/when-it-comes-to-gorillas-google-photos-remains-blind/
- Nunes, Pablo. Levantamento revela que 90,5% dos presos por monitoramento facial no Brasil são negros. Disponível em: https://theintercept.com/2019/11/21/presos-monitoramento-facial-brasil-negros/
- Blanco, Patrícia. O inconsistente e perigoso ‘radar gay’. Disponível em: https://brasil.elpais.com/brasil/2017/09/12/actualidad/1505211398_056097.html
FairML: Auditing Black-Box Predictive Models. Código aberto em: https://github.com/adebayoj/fairml
Indicação para Aprofundamento:
- Adebayo, Julius A. FairML : ToolBox for diagnosing bias in predictive modeling. Disponível em: https://dspace.mit.edu/handle/1721.1/108212
-
Marcio Moretto
Possui graduação em Curso de Ciências Moleculares pela Universidade de São Paulo (2006) e doutorado em Ciências da Computação pela Universidade de São Paulo (2010). Atualmente é professor doutor da Escola de Artes, Ciências e Humanidades - USP. É um dos coordenadores do Grupo de Políticas Públicas para o Acesso à Informação (GPoPAI) tendo sido corresponsável por pesquisas na área de vigilância e proteção de dados pessoais entre 2013 e 2016 e desde então é um dos coordenadores do Monitor do Debate Político no Meio Digital, projeto que investiga o fenômeno da polarização da esfera pública e suas consequências políticas e sociais por meio de aplicação de pesquisas de opinião e análise de mídias sociais entre outras metodologias.
Leituras obrigatórias:
- Kolbert, Elizabeth. Why Facts Don't Change Our Minds
- Lewis, P. e Hilder, P. Leaked: Cambridge Analytica's blueprint for Trump victory (https://www.theguardian.com/uk-news/2018/mar/23/leaked-cambridge-analyticas-blueprint-for-trump-victory)
- Mapping Brazil's Polarization onlinet (original: https://theconversation.com/mapping-brazils-political-polarization-online-96434 )( traduzida: https://revistagalileu.globo.com/Sociedade/noticia/2018/08/graficos-mostram-polarizacao-politica-nas-redes-sociais-no-brasil.html )
Leituras recomendadas:
- Nalon, Tai. Teria o WhatsApp contribuído para a eleição de Bolsonaro? (https://aosfatos.org/noticias/teria-o-whatsapp-contribuido-para-eleicao-de-bolsonaro/)
- Privacidade hackeada (Documentário). (https://www.netflix.com/br/title/80117542)
- WhatsApp: The Widespread Use of WhatsApp in Political Campaigning in the Global South (https://ourdataourselves.tacticaltech.org/posts/whatsapp/ )
- Brazilian Elections and the Public-Private Data Trade. (https://ourdataourselves.tacticaltech.org/posts/overview-brazil/ )
-
Nathalie Fragoso
Coordenadora da área de Privacidade e Vigilância. Doutora em Direito pela Faculdade de Direito Universidade de São Paulo e graduada em Direito pela mesma instituição. Possui o Zertifikat in den Grundzügen des deutschen Rechts e o LLM (Master of Laws) na Ludwig-Maximilians-Universität München. Coordenadora da Clínica de Direitos Humanos Luiz Gama entre os anos de 2013-2014. Assessora de advocacy do Instituto de Defesa do Direito de Defesa entre os anos de 2017-2018. Integrante do Coletivo de Advocacia em Direitos Humanos – CADHu desde 2015.
Leitura obrigatória:
- Zuboff, Shoshana. Big Other: Surveillance Capitalism and the Prospects of an Information Civilization (April 4, 2015). (https://ssrn.com/abstract=2594754)
Leitura recomendada:
- Carrera, Fernanda. Mais do que um simples apertar de botão: uma reflexão sobre regimes de espectatorialidade e imersão na publicidade pervasiva. (https://scielo.conicyt.cl/scielo.php?pid=S0719-367X2014000100005&script=sci_arttext)
-
Mário Sérgio
É graduado em Ciência da Computação pelo Centro Universitário IESB. Ex-presidente da Associação Python Brasil (APyB). Desde 2017, é reconhecido como um Fellow Member da Python Software Foundation nos Estados Unidos. Gerente do Programa de Inovação Cívica da Open Knowledge Brasil.Eduardo Cuducos
Mestre e bacharel em design gráfico pela Universidade Federal de Santa Catarina e Doutor pela University of Essex (Reino Unido). Sociólogo e desenvolvedor, foi um dos fundadores da Operação Serenata de Amor
Leituras obrigatórias:
- Lichand, Guilherme. Chatbots vs. Nudgebots (https://medium.com/@guilhermefinkelfarblichand/chatbots-vs-nudgebots-49b11e02b462)
- Robertson, Adi. OLPC’s $100 Laptop Was Going To Change The World — Then It All Went Wrong ( https://www.theverge.com/2018/4/16/17233946/olpcs-100-laptop-education-where-is-it-now )
Leituras recomendadas:
- Documentário CodeGirl (2015) (trailer: https://www.youtube.com/watch?v=cRb5iel-3Ck)
- Lichand, Guilherme. Chatbots vs. Nudgebots (https://medium.com/@guilhermefinkelfarblichand/chatbots-vs-nudgebots-49b11e02b462)
-
Leonardo Feltrin Foletto
Jornalista e pesquisador, mestre em jornalismo (UFSC) e doutor em Comunicação e Informação (UFRGS). É editor do BaixaCultura (http://baixacultura.org), projeto de cultura livre e contracultura digital criado em 2008, coordenador de comunicação do LabCidade (FAU USP - http://www.labcidade.fau.usp.br/ ) e integrante do capítulo brasileiro do Creative Commons Brasil. Participou de projetos ligados à cultura livre e tecnopolítica como Casa da Cultura Digital SP e Porto Alegre, Ônibus Hacker, BaixoCentro, Matehackers, rede das Produtoras Culturais Colaborativas, entre outros. Deu aulas de comunicação, narrativas e tecnologia na PUCRS, PUCSP e UCS (Caxias do Sul).Leitura obrigatória:
- Baase, Sara. A Gift of Fire: Social, Legal and Ethical Issues for Computing Technology (4th edition) p 179 - 220 - Capítulo 4
- Stallman, Richard. Free Software, Free Society páginas 91 e 92 What is Copyleft? ( https://www.gnu.org/philosophy/fsfs/rms-essays.pdf )
Leitura Recomendada
- Lessig, Lawrence, Free Culture ( http://free-culture.cc/freeculture.pdf )
- Levendowski, Amanda. How Copyright Law Can Fix Artificial Intelligence's Implicit Bias Problem (https://papers.ssrn.com/sol3/papers.cfm?abstract_id=3024938)
- Stallman, Richard. Free Software, Free Society páginas 79 a 88 Misinterpreting Copyright - A Series of Errors ( https://www.gnu.org/philosophy/fsfs/rms-essays.pdf )
- Baase, Sara. A Gift of Fire: Social, Legal and Ethical Issues for Computing Technology (4th edition) p 179 - 220 - Capítulo 4
-
Gisele Craveiro
Graduada em Ciência da Computação pela Universidade Federal de Mato Grosso do Sul, mestra em Ciência da Computação pela Universidade Estadual de Campinas (1998) e doutora em Engenharia Elétrica pela Universidade de São Paulo. Atualmente é professora na EACH-USP, onde lidera o grupo de pesquisa Colaboratório de Desenvolvimento e Participação (Colab-USP) e também vinculada ao Programa de Pós Graduação em Mudança Social e Participação Política (PROMUSPP). Ministra disciplinas e realiza pesquisas sobre as temáticas de Governo Aberto, Espaços Cívicos on line, transparência e dados abertos. Lidera iniciativas premiadas tais como Cuidando do Meu Bairro (Prêmio Nacional de Educação Fiscal) e Diário Livre (Prêmio CONIP de Excelência em Inovação na Gestão Pública).Leitura Obrigatória
- Swartz, Aaron. Guerilla Open Acess Manifesto. ( https://archive.org/stream/GuerillaOpenAccessManifesto/Goamjuly2008_djvu.txt )
- Stallman, Richard. Free Software, Free Society páginas 43 a 45 Free Software Definition ( https://www.gnu.org/philosophy/fsfs/rms-essays.pdf )
- Stallman, Richard. Free Software, Free Society páginas 57 a 62 Why "Free Software" is Better Than "Open Source" ( https://www.gnu.org/philosophy/fsfs/rms-essays.pdf )
- GNU. O que é o Software Livre? ( https://www.gnu.org/philosophy/free-sw.pt-br.html#f1)
- The 8 Principles of Open Government Data (https://opengovdata.org/)
- Documentário: Revolution OS (https://www.youtube.com/watch?reload=9&v=plMxWpXhqig)
Leitura Recomendada
- Raymond, Eric. The Cathedral and The Bazaar (http://www.catb.org/~esr/writings/cathedral-bazaar/cathedral-bazaar/index.html)
-
Leitura Obrigatória:
- Cultural stereotypes as gatekeepers: increasing girls' interest in computer science and engineering by diversifying stereotypes. Disponível em: https://www.ncbi.nlm.nih.gov/pmc/articles/PMC4323745/
- Como as mulheres passaram de maioria a raridade nos cursos de informática. Disponível em: https://www.bbc.com/portuguese/geral-43592581
- Project Implicit: https://implicit.harvard.edu/implicit/takeatest.html (ps.: Não precisa incluir no relatório, apenas explorar o site)
Leitura Recomendada:
- Gender bias against women in science. Disponível em: https://worklifelaw.org/publications/Double-Jeopardy-Report_v6_full_web-sm.pdf
- Meritocracy and feminization in conflict: computerization in the British Government. Disponível em: http://mariehicks.net/writing/GenderCodesIllus.pdf
- A Ciência é racializada?. Disponível em: https://medium.com/@vilarinoramon/a-ci%C3%AAncia-%C3%A9-racializada-5bca2ba98f2c
-
Carlos E. Ferreira
É professor titular do Departamento de Ciência da Computação do Instituto de Matemática e Estatística da Universidade de São Paulo (IME-USP). Graduado e mestre em Ciência da Computação no IME-USP e doutor pela Technische Universität Berlin (1994). Sua principal área de pesquisa é Otimização Combinatória onde atua principalmente em combinatória poliédrica e algoritmos de aproximação. Outras áreas de interesse são Biologia Computacional e Geometria Computacional.
Leitura Obrigatória:
- Association of Computing Machinery. Code of Ethics and Professional Conduct. Disponível em: https://ethics.acm.org/
Leitura Recomendada:
- ACM/IEEE. Software Engineering Code of Ethics. Disponível em: https://www.computer.org/education/code-of-ethics