OpenAI encerra equipe que avaliava riscos catastróficos de IA

A OpenAI encerrou a equipe responsável por avaliar se seus modelos de inteligência artificial poderiam representar 'riscos catastróficos'. A informação foi divulgada pelo Financial Times neste domingo (16). A decisão foi tomada pela própria empresa, de acordo com o jornal britânico. O grupo desfeito tinha a função de analisar cenários de risco extremo envolvendo os sistemas de IA. A avaliação incluía a possibilidade de danos graves e abrangentes causados pelos modelos da empresa. A notícia foi publicada originalmente pelo Financial Times. A medida ocorre em um contexto de crescente preocupação com a segurança da inteligência artificial. Governos e especialistas têm discutido formas de regular o desenvolvimento desse tipo de tecnologia. A OpenAI é uma das principais empresas do setor e desenvolve modelos amplamente utilizados. O encerramento da equipe pode afetar a capacidade da empresa de identificar riscos antes de lançar novos produtos. A supervisão interna é um dos pontos centrais do debate sobre IA. A decisão da OpenAI, portanto, tende a gerar repercussão no setor. O tema dos riscos catastróficos é central para a regulação da inteligência artificial. A decisão da OpenAI pode influenciar outras empresas do setor. A comunidade de pesquisa em IA deve acompanhar os próximos passos da companhia.