Na selva de pixels: formas de classificação e dinâmicas sociais em torno de imagens geradas por inteligência artificial

Debora Krischke Leitao; Daniella  Landrys

doi:10.20336/rbs.1015

Autores

Debora Krischke Leitao Université du Québec, Montréal, Canadá.
Daniella Landrys Université du Québec, Montréal, Canadá.

DOI:

https://doi.org/10.20336/rbs.1015

Palavras-chave:

plataformas digitais, inteligência artificial, imagens, glitch

Resumo

O presente artigo parte de uma pesquisa realizada a partir de observação online e coleta manual de comentários e imagens para analisar as dinâmicas sociais no interior de um grupo de compartilhamento de imagens criadas com inteligência artificial generativa. Debruçamo-nos principalmente sobre uma categoria de imagens designadas pelos membros do grupo como Found in the Wild: imagens geradas por IA encontradas por acaso na Internet, num contexto original de utilização em que aparentam ser imagens “reais”, não produzidas por inteligência artificial. Analisamos as imagens ali compartilhadas e seus comentários para discutir a forma como os membros do grupo decidem se uma imagem é ou não produto de IA generativa. Estas imagens, muitas vezes objeto de debate, põem em evidência a capacidade dos indivíduos de discernir a sua origem artificial, ou a falta desta, e os tipos de conhecimentos mobilizados nesse processo.

Downloads

Não há dados estatísticos.

Biografia do Autor

Debora Krischke Leitao, Université du Québec, Montréal, Canadá.

Doutora em Antropologia Social pela Universidade Federal do Rio Grande do Sul. Atualmente é professora do Departamento de Sociologia da Université du Québec.

Daniella Landrys, Université du Québec, Montréal, Canadá.

Mestre em Recherches et études sociologiques pela Universidade de Toulouse 2 Jean Jaurès. Atualmente é doutoranda e assistente de pesquisa e ensino na Université du Québec à Montréal.

Referências

Bahrini, Aram et al. (2023, 27-28 abr.). ChatGPT: Applications, opportunities, and threats [Artigo apresentado em simpósio]. IEEE – Systems and Information Engineering Design Symposium, Charlottesville, VA, EUA. https://doi.org/10.48550/arXiv.2304.09103

Bardin, Laurence. (1977). L’analyse de contenu. PUF.

Barthes, Roland. (1980). La chambre claire : Note sur la photographie. Gallimard.

Benjamin, Walter. (2013). La théorie de la ressemblance. In P. Lavelle (org.), Walter Benjamin (pp. 120-122). L’Herne.

Bommasani, Rishi et al. (2021). On the opportunities and risks of foundation models. arXiv, arXiv:2108.07258. https://doi.org/10.48550/arXiv.2108.07258

Borji, Ali. (2023). Qualitative failures of image generation models and their application in detecting deepfakes. Image and Vision Computing, 137. https://doi.org/10.1016/j.imavis.2023.104771

Braşoveanu, Adrian M., & Andonie, Rǎzvan. (2020, 7-11 set.). Visualizing transformers for NLP: A brief survey [Artigo apresentado em congresso]. 24th International Conference Information Visualisation (IV), Melbourne. https://doi.ieeecomputersociety.org/10.1109/IV51561.2020.00051

Geertz, Clifford. (1989). A interpretação das culturas. LTC.

Ginzburg, Carlo. (1989). Mitos, emblemas, sinais: morfologia e história. Companhia das Letras.

Dika, Khaled. (2020). L’affaire Loomis : les fantômes de Descartes et de Grotius à l’assaut de la justice ? Archives ouvertes HAL, preprint, hal-02566382. https://hal.science/hal-02566382

Farid, Hany. (2009). Photo fakery and forensics. In M. Zelkowitz (ed.), Advances in Computers (Vol. 77, pp.1-55). https://doi.org/10.1016/S0065-2458(09)01201-7

Ferrer, Josep. (2024). How transformers work: A detailed exploration of transformer architecture. Datacamp. https://www.datacamp.com/tutorial/how-transformers-work

Ferrara, Emilio. (2024). GenAI against humanity: Nefarious applications of generative artificial intelligence and large language models. Journal of Computational Social Science, 7, 549-569. https://doi.org/10.1007/s42001-024-00250-1

Gombrich, Ernst Hans. (2000). Art and illusion: A study in the psychology of pictorial representation. Princeton University Press.

Harwell, Drew. (2022). He used AI to win a fine-arts competition. Was it cheating? The Washington Post. https://www.washingtonpost.com/technology/2022/09/02/midjourney-artificial-intelligence-state-fair-colorado/

Ingold, Timothy. (2010). Da transmissão de representações à educação da atenção. Educação, 33(1), 6-25.

Lamri, Jeremy, Tertrais, Gaspard, & Silver, Aurora. (2023). Travailler à l'ère des IA génératives. EMS Editions.

Lin, Li et al. (2024). Detecting multimedia generated by large ai models: A survey. arXiv, preprint, arXiv:2402.00045. https://doi.org/10.48550/arXiv.2402.00045

Machado, Arlindo. (1998). A fotografia sob o impacto da eletrônica. In E. Samain (org), O fotográfico (pp. 317-326). Hucitec-CNPq.

Martins, José de S. (2009). Sociologia da fotografia e da imagem. Contexto.

Menezes, Paulo. (2003). Representificação: as relações (im)possíveis entre cinema documental e conhecimento. Revista Brasileira de Ciências Sociais, 18(51), 87-97. https://doi.org/10.1590/S0102-69092003000100007

Meunier, Alex, Ricci, Donato, Cardon, Dominique, & Crépel, Maxime. (2019). Les glitchs, ces moments où les algorithmes tremblent. Techniques & Culture, (72), 200-203.

Nightingale, Sophie J., & Farid, Hany. (2022). AI-synthesized faces are indistinguishable from real faces and more trustworthy. Proceedings of the National Academy of Sciences, 119(8), e2120481119. https://doi.org/10.1073/pnas.2120481119

Oppenlaender, Jonas. (2023). A taxonomy of prompt modifiers for text-to-image generation. Behaviour & Information Technology, 1–14. https://doi.org/10.1080/0144929X.2023.2286532

Paillé, Pierre, & Mucchielli, Alex. (2021). L’analyse qualitative en sciences humaines et sociales. Armand Colin.

Porcile, Gonzalo, Gindi, Jack, Mundra, Shivansh, Verbus, James R., & Farid, Hany. (2024). Finding AI-generated faces in the wild. arXiv, arXiv:2311.08577. https://arxiv.org/abs/2311.08577

Radio-Canada. (2023, 6 set.). IA : la fausse chanson de Drake et The Weeknd tente sa chance pour les Grammy. Radio-Canada. https://ici.radio-canada.ca/nouvelle/2008492/heart-on-my-sleeve-drake-the-weeknd-ghostwriter-intelligence-artificielle-prix-grammy

Santaella, Lucia. (1998). Os três paradigmas da imagem In E. Samain (org), O fotográfico (pp. 303-316). Hucitec-CNPq.

Segalen, Victor. (1995). Essai sur l’exotisme, une esthétique du divers. Bibliothèque artistique et littéraire.

Sontag, Susan. (1973). On photography. RosettaBooks.

Steinfeld, Kyle. (2023). Clever little tricks: A socio-technical history of text-to-image generative models. International Journal of Architectural Computing, 21(2), 211-241. https://doi.org/10.1177/14780771231168230

Suresh, Harini, & Guttag, John. (2021, out.). A framework for understanding sources of harm throughout the machine learning life cycle [Artigo apresentado em congresso]. ACM Conference on Equity and Access in Algorithms, Mechanisms, and Optimization, Nova York. https://doi.org/10.1145/3465416.3483305

Tsing, Anna, Deger, Jennifer, Saxena, Alder K., & Zhou, Feifei. (2020). Feral Atlas. The More-than-Human Anthropocene. Stanford University Press. https://feralatlas.org/

Wang, Tricia. (2013, 13 maio). Big data needs thick data. Ethnography Matters. disponível em http://ethnographymatters.net/blog/2013/05/13/big-data-needs-thickdata/

Weidinger, Laura et al. (2022, 21-24 jun.). Taxonomy of risks posed by language models [Artigo apresentado em congress]. ACM Conference on Fairness, Accountability, and Transparency, Seul. https://doi.org/10.1145/3531146.3533088

Wenger, Etienne. (2010). Communities of practice and social learning systems: The career of a concept. In C. Blackmore (org.), Social learning systems and communities of practice (pp. 179-198). Londres: Springer.