O sistema hospitalar público da cidade de Nova York anunciou que não renovaria seu contrato com a Palantir à medida que aumentava a controvérsia no Reino Unido sobre a análise de dados e o contrato governamental da empresa de IA.
O presidente do maior sistema público municipal de saúde dos EUA, Dr. Mitchell Katz, testemunhou na semana passada perante o conselho municipal de Nova York que o acordo com Palantir expiraria em outubro.
Ele disse na audiência que o contrato, que se concentrava na recuperação de dinheiro para sinistros de seguros, sempre foi concebido para ser de curto prazo e que havia um “firewall absoluto” que impedia a Palantir de compartilhar informações com o Serviço de Imigração e Alfândega dos EUA. Ele disse que a agência “não teve nenhum incidente”.
O contrato e os documentos de pagamento relacionados partilhados com o Guardian pelo American Friends Service Committee e relatados pela primeira vez pelo Intercept, mostram que a NYC Health + Hospitals pagou à Palantir quase 4 milhões de dólares desde Novembro de 2023. O contrato referia que a Palantir seria capaz de rever notas sobre a saúde do paciente e ajudar o hospital a reivindicar mais dinheiro em benefícios públicos através de programas como o Medicaid. Também inclui uma linha afirmando que, com permissão da agência municipal, Palantir pode “desidentificar” as informações de saúde protegidas dos pacientes e usá-las para “outros fins que não a pesquisa”.
NYC Health + Hospitals disse em um e-mail ao Guardian que fará a transição para sistemas feitos inteiramente internamente e não haverá compartilhamento de dados com a Palantir ou uso dos aplicativos da empresa após o término do contrato. “O uso da tecnologia Palantir pela NYC Health + Hospitals é estritamente limitado à otimização do ciclo de receitas, ajudando o sistema público de saúde a fechar lacunas entre os serviços prestados e as cobranças capturadas, proteger receitas críticas e reduzir negações evitáveis”, disse a agência em um comunicado enviado por e-mail.
Palantir disse que corrigiria “imprecisões” nos registros públicos, mas não deu mais detalhes até o momento.
Presença da Palantir cresce no Reino Unido
Enquanto o sistema hospitalar da cidade de Nova Iorque se prepara para se separar da Palantir, a empresa enfrenta um escrutínio semelhante sobre questões de privacidade no seu acordo de 330 milhões de libras com o Serviço Nacional de Saúde (NHS) do Reino Unido. As autoridades de saúde no Reino Unido estão preocupadas que a controvérsia em torno do Palantir possa impedir a implementação nacional do sistema de dados da empresa, embora Keir Starmer esteja a tentar acelerar a implementação. No verão passado, nem metade das autoridades de saúde do país tinham começado a usar a tecnologia da Palantir, devido às preocupações da comunidade e dos médicos.. Um briefing de 12 de março da Medact, uma instituição de caridade de justiça de saúde, disse que o software da Palantir poderia permitir “abusos de poder do Estado baseados em dados”, incluindo ataques do ICE ao estilo dos EUA. Palantir negou que os dados pudessem ser utilizados desta forma, salientando que seria ilegal e uma violação de contrato.
A Palantir, que também tem contratos com o Ministério da Defesa do governo britânico, está a expandir a sua influência no país – apesar da reacção de activistas e de alguns legisladores. O Guardian revelou na semana passada que a Palantir está a tentar obter acesso a dados sensíveis da regulamentação financeira nacional.
A Autoridade de Conduta Financeira, um órgão de fiscalização de milhares de organismos financeiros, desde bancos a fundos de cobertura, concedeu à Palantir um contrato para investigar dados de inteligência internos para ajudar a erradicar o crime financeiro. Isso provocou protestos de alguns deputados, que instaram o governo a suspender este acordo. Os liberais democratas pediram na segunda-feira uma investigação governamental sobre o contrato. Starmer rejeitou sugestões de que o Reino Unido se tornou “perigosamente excessivamente dependente” de empresas de tecnologia americanas, incluindo a Palantir, mas observou que preferia ter mais capacidade doméstica.
Medact levantou preocupações de privacidade no Reino Unido sobre a capacidade da Palantir de acessar dados de pacientes não identificados. (Dados desidentificados referem-se a dados aos quais foram despojadas características que poderiam indicar quem é um indivíduo, como nomes e números de segurança social). Num briefing de 12 de Março para autoridades de saúde, Medact argumentou que as protecções de privacidade de dados do NHS são insuficientes; O NHS England disse que os dados são desidentificados à medida que se movem através do seu sistema de software nacional, a plataforma de dados federada do NHS (FDP). Mas Medact citou preocupações de que esses dados possam ser facilmente reidentificados.
Um porta-voz do NHS disse numa declaração enviada por e-mail ao Guardian que o fornecedor do FDP “foi nomeado de acordo com os regulamentos dos contratos públicos e só deve operar sob as instruções do NHS, com todo o acesso aos dados permanecendo sob o controlo do NHS e obrigações contratuais estritas que protegem a confidencialidade”.
Preocupações com a privacidade de dados
Especialistas em privacidade de dados entrevistados pelo Guardian disseram que há riscos no acesso da Palantir aos dados anonimizados dos nova-iorquinos para outros fins que não a pesquisa, especialmente devido ao vasto acesso da empresa a registros governamentais, à disposição de cooperar com o governo federal e à capacidade de conectar e analisar grandes conjuntos de dados.
“A desidentificação não é a garantia que costumava ser, e está ficando mais fácil com os recursos de IA reidentificar informações”, disse Sharona Hoffman, professora de direito na Case Western Reserve University.
Ari Ezra Waldman, professor de direito da UC Irvine que pesquisou como governos e empresas de tecnologia usam dados sobre indivíduos, diz que devemos nos preocupar “sempre que uma empresa como a Palantir ou um governo hostil coleta informações sobre populações vulneráveis”. Ele está particularmente preocupado com a disposição do contrato de utilização da informação para “outros fins que não a investigação”. Isso lhe diz que o governo não tinha poder suficiente para reagir à Palantir ao negociar o contrato, ou não se importava ou não conhecia o risco, diz ele.
Ativistas reivindicam vitória
Apesar das alegações do sistema hospitalar de que a parceria não apresentava riscos reais para os pacientes, os activistas que vivem na cidade de Nova Iorque e noutros locais consideram isto uma vitória.
Enfermeiros, ativistas pró-palestinos e grupos de justiça social e climática pressionaram o governo municipal como parte de uma campanha nacional conhecida como Purge Palantir para impedir a empresa de contratar agências governamentais, universidades e empresas.
“Não pensamos que os mesmos sistemas de IA que têm como alvo os imigrantes aqui nos Estados Unidos para o ICE, bem como a escolha de locais para bombardear no Irão, devam ser os mesmos sistemas de IA utilizados nos hospitais”, disse Kenny Morris, organizador do American Friends Service Committee. O grupo obteve o contrato NYC Health + Hospitals com a Palantir por meio de uma solicitação de registros públicos e compartilhou o documento com o Intercept e o Guardian. O sindicato nacional dos enfermeiros e o movimento Boicote, Desinvestimento e Sanções (BDS) também estiveram envolvidos na campanha.
Grupos da campanha “Não ao Palantir no nosso NHS” no Reino Unido esperam que a decisão do sistema hospitalar público da cidade de Nova Iorque de deixar expirar o contrato do Palantir também alimente a sua própria luta. A Medact e a Amnistia Internacional do Reino Unido disseram ao Guardian em declarações enviadas por e-mail que estão a apelar ao NHS para seguir o exemplo da cidade de Nova Iorque e rescindir o seu contrato de 330 milhões de libras com a Palantir.
“Como demonstraram os ativistas em Nova Iorque, os trabalhadores e as comunidades podem responsabilizar as nossas instituições de saúde e pressioná-las a fazer a escolha certa. Faremos o mesmo aqui e forçaremos o NHS England a cancelar este contrato”, disse a Dra. Rhiannon Mihranian Osborne, líder de campanhas corporativas na Medact, que está em contacto com a Purge Palantir.
Fonte: theverge
