Author: Afonso Casaca

  • Quem é o designer hoje?

    Afonso Casaca

    A expansão dos modelos generativos de IA e a sua capacidade de, progressivamente, se tornarem mais embutidos em processos de concepção e de fazer design estão a reconfigurar a maneira como percepcionamos, criamos e valorizamos a Imagem. À medida que o machine learning se torna um meio para produzir tanto as ideias como os resultados visuais, surgem novas questões sobre autoria, criatividade e significado. Neste post, procuro refletir sobre o controlo e a evolução do papel do design(er) num panorama de conceptualização mediado por estas tecnologias.

    Figura 1 – Harold Cohen, Untitled (da série Amsterdam Suite ‘c’), 1977. Serigrafia produzida a partir de desenho gerado pelo programa de inteligência artificial AARON.

    Para compreender melhor este paradigma sem cair numa leitura linear de evolução tecnológica, é importante começar por averiguar a integração destas ferramentas no ato projetual. A sua utilização pode não ocorrer de forma uniforme, sendo possível utilizá-la em modalidades menores, como, por exemplo,  na utilização de ferramentas de micro-automação integradas em software, generative fill, expansão de imagens ou remoção de backgrounds, entre outras funcionalidades que aceleram tarefas mais operativas e técnicas. Noutros casos, pode ser utilizada para fins de pesquisa, na concepção inicial de ideias e exploração de conceitos, mas também na produção direta de resultados visuais finais. Cada uma delas, respetivamente, desloca subtilmente o lugar onde reside a decisão do designer. Com isto, o machine learning será um colaborador ou um competidor que substitui a decisão do designer? O que acontece com o sentido crítico de um projeto quando o designer recorre aos poderes generativos da máquina? E, acima de tudo, pode a escrita de um prompt ser encarada como um verdadeiro processo de design?

    Figura 2 — Meme adaptado do filme I, Robot (real. Alex Proyas, 2004). Fonte: Arquivo digital / redes sociais, c. 2023.

    Escrever um prompt exige uma intenção. Para obter resultados mais precisos, requer valências como um vocabulário conciso e um repertório sensível de referências, capacidades que residem num pensamento crítico e projectual sólido. Ainda assim, existe uma diferença decisiva entre projetar um sistema de raiz e selecionar resultados a partir da geração de opções configuradas pelos cálculos de um algoritmo. Ou seja, a utilização de um prompt só se pode tornar um ato de design quando o designer recorre à sua própria criticidade para interrogar e perceber possíveis enviesamentos da máquina.

    AI-generated visuals are “mean images” in a double sense: mathematical averages computed from vast datasets of scraped imagery, and “mean” in their social effects—stingy, cruel, and extractive, replacing photographic witness with “statistical rendering.”

    Hito Steyerl, Mean Images, New Left Review 140, 2023.

    Figura 3  — Hito Steyerl, How Not to Be Seen: A Fucking Didactic Educational .MOV File, 2013 (fotograma de vídeo). Fonte: Tate, Londres

    Este ponto torna-se ainda mais evidente quando observamos a relação entre o criador e a infraestrutura técnica. Ao recuperar o pensamento de Vilém Flusser sobre o «aparelho» [1], Sean Dockray, em Learning from YouTube, alerta para o modo como as infraestruturas do machine learning não se limitam a responder aos prompts humanos, mas treinam os próprios utilizadores a formular intenções que sejam legíveis pela máquina [2]. Num ambiente previamente programado, o utilizador corre o risco de passar a desejar e a formular apenas aquilo que o sistema já está capacitado para prever e executar, restringindo a intenção criativa dentro dos limites do programa [1].

    “Instead of being an instrument of a single artistic imagination, AI has become a mechanism for influencing the imaginations of billions. Gathered and aggregated data about the cultural behaviors of multitudes is used to model our ‘aesthetic self,’ predicting our future aesthetic decisions and tastes and potentially guiding us towards choices preferred by the majority.

    Lev Manovich, AI Aesthetics, 2019, Strelka Press

    Ao conferir o papel de criador à máquina, este modelo desvia o design(er) do centro da produção direta, limita as suas opções de trabalho e transforma a sua autoria num mero exercício de seleção estatística. É precisamente neste ponto que o «porquê?» se torna a pergunta mais urgente e insubstituível da prática do design(er). Num cenário saturado pela facilidade técnica de gerar milhares de variações visuais em segundos, o valor de um objeto de design deixa de residir na destreza da sua execução formal ou no virtuosismo estético imediato. Qualquer sistema automatizado consegue produzir um «como» visualmente sedutor; contudo, a máquina é incapaz de formular um propósito situado no mundo real. Se, como afirmam Colomina e Wigley, os artefactos podem desencadear novos modos de pensamento [3], então a IA poderá transformar a forma como o designer pensa e entende o seu papel, e não necessariamente substituí-lo.

    Importa também sublinhar que estes modelos de machine learning se sustentam sobre bases de dados de larga escala construídas através da recolha massiva e indiscriminada de registos visuais e textuais. Como demonstra Kate Crawford em Atlas of AI, este processo extrativo desvincula imagens e produções culturais dos seus contextos históricos, sociais e autorais originais, frequentemente sem consentimento nem salvaguarda de proteção de dados, convertendo-as em meros padrões estatísticos [4]. Ao mesmo tempo, Wendy Hui Kyong Chun adverte que os sistemas algorítmicos de reconhecimento e correlação não são espelhos neutros da realidade: ao aprenderem com arquivos passados marcados por assimetrias, acabam por automatizar, normalizar e amplificar enviesamentos sociais mascarados sob uma aparência de objetividade técnica [5].

    Figura 4 — Exposição Training Humans, com curadoria de Kate Crawford e Trevor Paglen, no Osservatorio Fondazione Prada, Milão. Fonte: Fondazione Prada, 2019.

    É precisamente aqui que a capacidade do design(er) de contextualizar, questionar e justificar cada decisão e output gerado se afirma ainda como o ponto diferenciador. Consequentemente, o processo recupera o protagonismo face ao resultado final: o rasto das decisões, a pertinência das perguntas levantadas e o rigor conceptual passam a pesar mais do que o artefacto finalizado. Rafael Cardoso defende que o design deve ser encarado como um «campo ampliado cuja maior importância reside na capacidade de construir pontes e forjar relações num mundo fragmentado pela especialização» [6]. Esta visão reforça que o papel do design(er) não depende de uma ferramenta específica, mas da sua visão relacional e crítica.

    Responder a quem é o designer hoje implica, portanto, recusar tanto o auxílio submisso à máquina como a visão romântica e saudosista de uma autoria puramente individual. Hoje, o design é uma prática fundamentalmente interdisciplinar, participativa e sistémica. O desafio que se coloca à teoria e à prática do design(er) passa por formalizar o seu trabalho sem abdicar da agência ética e política. Mesmo quando a forma visual emerge da colaboração entre modelos generativos, cabe ao designer situar o projeto no mundo real, assumir uma posição de crítica perante os enviesamentos destas ferramentas e reivindicar uma autonomia intelectual que não funcione meramente numa base de lógica e probabilidades, como os algoritmos.

    As questões e discussões levantadas pelos autores e designers convocados ao longo deste post são exemplos essenciais para preservar uma prática do design atenta, crítica e responsável. Contudo, perante o complexo contexto sociopolítico atual, juntamente com a crescente precarização laboral da área, como abordei no post anterior, e a aceleração imposta pela máquina e os seus consequentes problemas, impõe-se perguntar: que designers conseguirão efetivamente sustentar e cultivar uma prática desta natureza? Como lembra Afonso Matos, exigir criticidade ao designer sem questionar as condições materiais e económicas que limitam a sua margem de ação ignora os constrangimentos reais da profissão [7].

    Notas:

    [1] Flusser, Vilém — Filosofia da Caixa Preta: Ensaios para uma futura filosofia da fotografia. Lisboa: Relógio D’Água, 2011.

    [2] Dockray, Sean — “Learning from YouTube.” Rivers of Emotion, Bodies of Ore. Oslo: Uten Tittel (Not Yet Titled Press) in collaboration with Kunsthall Trondheim, 2018

    [3] Colomina, Beatriz; WIGLEY, Mark — Are We Human? Notes on an Archaeology of Design. Zurique: Lars Müller Publishers, 2016.

    [4] Crawford, Kate — Atlas of AI: Power, Politics, and the Planetary Costs of Artificial Intelligence. New Haven: Yale University Press, 2021.

    [5] Chun, Wendy Hui Kyong — Discriminating Data: Correlation, Neighborhoods, and the New Politics of Recognition. Cambridge, MA: MIT Press, 2021.

    [6] Cardoso, Rafael — Design para um mundo complexo. São Paulo: Cosac Naify, 2012.

    [7] Matos, Afonso — Who Can Afford to Be Critical?. Eindhoven: Set Margins’, 2022.

  • Ser designer na época da inteligência artificial

    Afonso Casaca

    Atualmente, gerar uma imagem é mais simples do que nunca. No entanto, o trabalho de produzi-la torna-se progressivamente mais instável. A disciplina do design assistiu ao emergir de diferentes ferramentas de trabalho desde a sua génese. Com o aflorar da Inteligência Artificial, o discurso em torno do futuro da prática e do papel do designer intensificou-se. Existe quem entenda que se trata apenas de algo que requer adaptação (tal como aconteceu com a introdução de novos softwares de desktop publishing na década de 1980), bem como quem acredite que poderá levar ao colapso da disciplina, sendo este ainda um cenário incerto. Estas ruturas de paradigma na disciplina permitem observar como as tecnologias não surgem de um vazio neutro, mas através de uma lógica económica que, como apontou Hal Foster, tende a incorporar a prática do design para servir da maneira mais eficiente possível o mercado [1], transformando aquilo que poderia tornar-se num espaço de autonomia crítica e contribuir para o conhecimento num ciclo contínuo de consumo e produtividade. No entanto, existe alguma urgência em compreender a forma como o machine learning molda esta prática e a forma como é percecionada. Proponho-me, então, a substituir a questão «será o designer trocado pela IA?» por «de que forma é que a IA pode modelar a experiência de trabalho no design?».

    Figura 1 — Meme sobreposto a um cartoon político norte-americano da década de 1930 (Capitalism, atribuído a William Gropper). Fonte: @ethicaldesign69, 2023.

    Desempenhar trabalho a partir de algo que surge como interesse ou paixão, «por amor à camisola», como acontece na maior parte dos casos desta área, pode rapidamente tornar-se num cenário vulnerável. O designer Ruben Pater descreve isto mesmo, na sua obra CAPS LOCK: How Capitalism Took Hold of Graphic Design, and How to Escape from It associando esta característica, geralmente patente nos designers, à precariedade generalizada que se tem feito sentir na área [2]:

    “Passion is what makes designers the ideal workers in this stage of capitalism. Designers are flexible, always available, dress up, don’t strike, don’t unionize, and are inspired on demand.”

    Ruben Pater, CAPS LOCK: How Capitalism Took Hold of Graphic Design, and How to Escape from It.

    Como analisa Silvio Lorusso, o designer contemporâneo habita frequentemente o estado de entreprecariat, onde a promessa de autonomia e flexibilidade esconde a ausência de segurança laboral [3]. Existe uma grande variedade de modelos de trabalho, não sendo possível, por exemplo, precisar um salário fixo para um designer. Esta realidade agrava-se no acesso à profissão, algo que Afonso Matos questiona diretamente ao expor exemplos de como a normalização de estágios e projetos não remunerados serve como barreira e filtra quem pode efetivamente dar-se ao luxo de exercer design [4]. O dinheiro e a precariedade limitam o exercício crítico no design, refletindo a hierarquia entre poder de decisão e força de trabalho [4]. Este regime transforma cada profissional numa microempresa isolada, obrigada a assumir por conta própria os custos das subscrições das ferramentas digitais e da atualização técnica constante. Como adverte J. Dakota Brown, este sonho de autonomia profissional acaba muitas vezes por mascarar condições reais de heteronomia e dependência face às forças económicas vigentes que moldam o mercado [5].

    Figura 2 — Lista de reivindicações laborais elaborada em assembleia do sindicato United Voices of the World – Design and Cultural Workers (UVW-DCW), Londres, 2019 (publicada no artigo «What Does It Mean to Unionize When You’re Your Own Boss?»). Fonte: AIGA Eye on Design.

    Neste sentido, questões relacionadas com empregabilidade na era da IA têm sido, oportunamente, levantadas, não só em áreas criativas como nas restantes. Algo que foi introduzido como promessa de uma forma de democratizar a criação (incluindo a visual) acaba por precarizar as condições laborais e por desvalorizar o processo criativo.

    A velocidade com que projetos podem ser concluídos com recurso a estas ferramentas aumentou de forma significativa, agilizando algumas etapas como o processamento de imagem, optimização tipográfica, entre outras. Certas tarefas, que outrora poderiam demorar dias a ser pensadas e executadas, hoje podem ser resolvidas com um conjunto de prompts em segundos.

    É certo que são meios capazes de aligeirar algumas ações ao desenvolver um projeto. Ainda assim, a posição dos trabalhadores torna-se mais fragilizada, atendendo ao facto de que algumas tarefas se tornam «menos necessárias» de serem realizadas pelos trabalhadores (sendo também este o cenário menos dispendioso para o empregador). Exige-se que produzam mais em menos tempo, levando a um declínio desproporcional nos honorários. O propósito do ofício é transformado, passando a velocidade de produção a ser uma métrica valorizada, enquanto o designer corre o risco de se tornar uma espécie de «curador de prompts». Como destaca Andrew Shea em It’s Nice That, por detrás do debate técnico reside sempre uma questão política sobre o trabalho [6]:

    “Underneath every argument about tools and technique sits a question about labour: namely, who gets to do creative work, on what terms, and whether that work still holds meaning for the people doing it. Unfortunately, many designers have accepted unstable hours, modest pay, and long apprenticeships precisely so they can keep exercising their creativity. Those terms were not chosen by any one designer; they are often conditions of the field.”

    POV: No shortcuts, why AI threatens creative instinct, Andrew Shea.

    A crescente automação de processos e operações básicas levanta também uma questão sobre quem pode iniciar a sua carreira e entrar no mercado. As posições outrora ocupadas por designers com menos experiência perdem o seu propósito aos poucos, com a integração deste tipo de ferramentas, existindo também uma reorganização das próprias equipas e da dinâmica de trabalho em grupo. Ao delegar tarefas básicas a algoritmos, reduz-se o espaço de aprendizagem que permitia aos recém-formados entrar no mercado, agravando a insegurança laboral na área [7]. Com esta reestruturação, os espaços e instituições, sejam de que dimensão for, onde se exerce a prática profissional de design deixam de funcionar como espaços de mentoria e de transmissão de conhecimentos práticos entre gerações. Ao substituir a execução inicial pela filtragem rápida de resultados gerados por máquina, fragmenta-se o trabalho colaborativo e reduz-se o designer a um operador solitário, comprometendo o amadurecimento crítico e fragilizando o lado social do trabalho que sustentava a evolução dentro da profissão.

    Figura 3 — Mierle Laderman Ukeles, Hartford Wash: Washing, Tracks, Maintenance: Outside, 1973 (registo da performance no Wadsworth Atheneum, Hartford).

    Para além do ofício visual e «visível», descrito até agora, atentemos na forma como os modelos de IA são treinados para sustentar estas ferramentas. Como demonstra Kate Crawford em Atlas of AI, estes sistemas são sustentados através de uma lógica extrativista de captura de produção intelectual humana em larga escala [8]. Diversas obras, protegidas por direitos de autor na sua maior parte, são utilizadas para treino de dados, muitas vezes sem o consentimento dos autores. Dá-se uma transmissão silenciosa do valor do trabalho original para alimentar tecnologias corporativas que ironicamente o enfraquecem. Perante isto, importa recuperar a reflexão de Hye-Kyung Lee sobre os limites desta emulação [9]:

    “In this debate, we are supposed to delve into conditions of human artists’ creativity and creative process to seek them in AI or identify limits in AI’s emulation of them. This means that, ironically, the more sophisticated the AIs become, the more attention we will pay to debating the essential nature of ‘human’ creativity.”

    Rethinking creativity: creative industries, AI and everyday creativity, Hye-Kyung Lee.

    Figura 4 — Meme de @ethicaldesign69 2022. Fonte: Matos, A. (2022). Who Can Afford to Be Critical?. Set Margins’.

    Torna-se cada vez mais urgente pensar o papel do design enquanto uma prática humana, com condições laborais justas e com uma reestruturação das questões autorais. A evolução do machine learning reconfigura o estado das relações laborais em diversas áreas. Neste sentido, Tony Fry lembra que a ética no design exige distinguir entre práticas que sustentam futuros viáveis e práticas que esvaziam a agência humana [10]. A intenção e a dualidade «tentativa/erro», tão necessárias para o amadurecer de uma ideia, permanecem essenciais na execução desta prática.

    Notas:

    [1] Foster, Hal — Design and Crime (And Other Diatribes). Londres / Nova Iorque: Verso, 2002.

    [2] Pater, Ruben — CAPS LOCK: How Capitalism Took Hold of Graphic Design, and How to Escape from It. Amesterdão: Valiz, 2021.

    [3] Lorusso, Silvio — Entreprecariat: Everyone Is an Entrepreneur. Nobody Is Safe. Eindhoven: Onomatopee, 2019.

    [4] Matos, Afonso (ed.) — Who Can Afford to Be Critical?. Eindhoven: Set Margins’ Publications, 2022 (citando LORUSSO, Silvio — «Design and Power – Part 1», Other Worlds, n.º 4, 2021).

    [5] BROWN, J. Dakota – The Power of Design as a Dream of Autonomy. Chicago : The Green Lantern Press, 2019. (On Civil Disobedience ; 12).

    [6] Lee, Hye-Kyung — «Rethinking creativity: creative industries, AI and everyday creativity». Media, Culture & Society, vol. 44, n.º 3, 2022, p. 601-612.

    [7] Cardoso, Rafael — Design para um mundo complexo. São Paulo: Cosac Naify, 2012.

    [8] Fry, Tony — «The Voice of Sustainment: Design Ethics as Futuring». Design Philosophy Papers, vol. 2, n.º 2, 2004, p. 145-156.