Áreas de atuação
Tecnologia responsável e IA
A tecnologia amplia o que pessoas e organizações conseguem fazer. Também reproduz erros, desigualdades e decisões ruins mais rápido e em escala maior. As perguntas vivas são quando usá-la, como governá-la e quem responde por ela quando erra. As respostas dependem menos da tecnologia do que dos incentivos, das informações, das habilidades e das práticas de trabalho em que ela aterrissa.
A ambição técnica é a parte fácil
Uma boa decisão tecnológica se apoia em evidências, julgamento humano, governança e nas pessoas sobre quem ela recai. A primeira pergunta é se a ferramenta acrescenta alguma coisa, não se dá para construí-la. A seguinte é como alguém a contesta, entende seus limites e reage quando o resultado não serve ao caso que tem diante de si. São perguntas de desenho e de governança, e sai muito mais barato respondê-las antes que a ferramenta esteja incorporada.
As perguntas que fazemos a uma tecnologia
Julgamento humano e responsabilização
Manter revisão humana efetiva, responsabilidade clara e possibilidade de contestação em torno de tecnologia usada em pesquisa, trabalho com conhecimento ou decisões públicas.
Evidência, procedência e limitações
Tornar possível entender de onde vem a informação, como foi tratada e o que seus limites significam para o uso.
Efeitos desiguais e acesso
Considerar viés, acessibilidade, inclusão digital e as formas como um sistema funciona de modo diferente para pessoas em circunstâncias diferentes.
Governança e integridade da informação
Explorar governança de dados, questões de privacidade e segurança, riscos de desinformação e as condições institucionais para um uso responsável.
O papel da NoviThea
Começar pela finalidade, não pela ferramenta
A NoviThea leva pesquisa, desenho responsável, desenvolvimento de capacidade e experimentação às decisões sobre se, quando e como uma tecnologia deve ser usada. O trabalho começa pela finalidade e pelas pessoas afetadas. Às vezes a conclusão honesta é que a tecnologia não é a resposta.
Antes de escolher a ferramenta
O que essa ferramenta deve alcançar, sobre quem ela recai e o que acontece no dia em que ela erra?