뉴욕시 병원이 Palantir 계약 해지, 논란의 AI 기업은 영국 확장 중

New York City hospitals drop Palantir as controversial AI firm expands in UK

요약

뉴욕시 공립병원이 활동가의 압력으로 Palantir와의 계약을 갱신하지 않기로 결정했습니다. 한편 Palantir는 영국의 NHS, 금융감독청 등과의 계약 확대로 개인 정보 보호 우려가 커지고 있습니다.

핵심 포인트

  • NYC Health + Hospitals는 10월 Palantir 계약 만료 후 자체 개발 시스템으로 전환
  • 영국 NHS와의 £330m 계약, 금융감독청 데이터 접근 등으로 프라이버시 우려 증가
  • 영국 의료 정의 단체 Medact는 환자 데이터 재식별 위험과 국가 권력 남용 가능성 지적

왜 중요한가

AI/데이터 분석 솔루션 도입 시 개인 정보 보호, 데이터 악용 가능성, 공공기관과의 계약 투명성 검토의 중요성을 보여줍니다.

📄 전문 번역

뉴욕 공립병원, 팔란티르와의 계약 갱신 거부...영국에선 논란 속 확산 중

팔란티르는 빅데이터 분석을 전문으로 하는 미국 소프트웨어 기업입니다. 최근 논란이 되고 있는데요, 뉴욕시 공립병원이 계약 갱신을 거부하기로 결정하면서 그 파장이 커지고 있습니다.

뉴욕 병원계의 결정

미국 최대 공립의료 시스템인 뉴욕시 공립병원(NYC Health + Hospitals)의 미첼 카츠 원장은 지난주 뉴욕시 의회에서 팔란티르와의 계약이 10월에 만료될 예정이라고 증언했습니다.

카츠 원장은 이 계약이 보험청구금 회수에 중점을 두고 있으며, 처음부터 단기 계약으로 기획된 것이었다고 설명했습니다. 또한 팔란티르가 미국 이민세관단속국(ICE)과 정보를 공유하지 않도록 하는 "절대적 방화벽"이 마련되어 있다고 강조했습니다.

공개된 계약서에 따르면 뉴욕시 공립병원은 2023년 11월 이후 팔란티르에 약 400만 달러를 지급했습니다. 계약 내용을 보면 팔란티르는 환자의 건강 기록을 검토할 수 있으며, 메디케이드 같은 공공보험 프로그램을 통해 병원이 더 많은 청구액을 받을 수 있도록 돕는 역할을 했습니다.

다만 계약서에는 다소 문제가 될 만한 조항도 담겨 있었습니다. 시 당국의 허가 하에 팔란티르가 환자의 개인정보를 "익명화"한 후 "연구 목적 이외의 용도"로 사용할 수 있다는 내용이었거든요.

뉴욕시 공립병원은 가디언지에 보낸 성명에서 계약 만료 후 자체 개발 시스템으로 전환할 것이며, 팔란티르와의 데이터 공유나 서비스 이용이 전혀 없을 것이라고 밝혔습니다.

영국에서는 영향력 확대 중

흥미로운 것은 뉴욕에서 팔란티르가 떠나가는 와중에, 영국에서는 그 영향력이 오히려 확대되고 있다는 점입니다.

팔란티르는 영국 국민보건서비스(NHS)와 3억 3천만 파운드 규모의 계약을 체결했는데, 여기서도 개인정보 보호 문제가 논란이 되고 있습니다. 영국의 보건 관계자들은 팔란티르를 둘러싼 논란이 회사 기술의 전국 확대를 저해할 수 있다고 우려하고 있습니다. 키르 스타머 총리가 배포를 서두르려 하지만, 지난해 여름 기준으로 절반도 안 되는 보건 당국만 팔란티르 기술을 도입했거든요.

보건 정의 자선단체인 메댁트는 지난 3월 12일 브리핑에서 팔란티르의 소프트웨어가 "데이터 기반의 국가 권력 남용"을 가능하게 할 수 있다고 지적했습니다. 미국식 ICE 단속 같은 일들이 벌어질 수 있다는 경고인데요, 팔란티르는 이것이 불법이자 계약 위반이 될 것이라고 부인했습니다.

팔란티르는 영국 국방부와도 계약하고 있으면서 지속적으로 영향력을 넓혀가고 있습니다. 활동가들과 일부 의원들의 반발에도 불구하고 말이죠. 최근에는 민감한 금융 규제 데이터에 접근하려는 시도도 드러났습니다.

금융감시 당국까지 확대

금융감시 당국인 금융행동청(FCA)은 팔란티르에 은행부터 헤지펀드까지 수천 개 금융기관의 정보를 조사하는 계약을 맡겼습니다. 금융 범죄를 적발하기 위한 목적이었는데요, 이 결정에 의원들이 강력히 반발했습니다. 자유민주당은 지난주 정부가 이 계약을 중단해달라고 촉구했습니다.

스타머 총리는 영국이 팔란티르 같은 미국 기업에 "위험할 정도로 과도하게 의존"하고 있다는 지적은 일축했지만, 국내 역량을 더 확보하고 싶다는 입장은 드러냈습니다.

영국에서의 개인정보 보호 우려

메댁트는 팔란티르가 익명화된 환자 데이터에 접근할 수 있다는 점에서 개인정보 보호 문제를 제기했습니다. 익명화된 데이터란 이름이나 주민등록번호 같이 개인을 식별할 수 있는 정보를 제거한 데이터를 말합니다.

메댁트는 3월 12일 보건 관계자들을 위한 브리핑에서 NHS의 데이터 개인정보 보호가 불충분하다고 주장했습니다. NHS 잉글랜드는 국가 소프트웨어 시스템인 NHS 연합 데이터 플랫폼(FDP)을 통해 데이터가 이동하면서 익명화된다고 설명했지만, 메댁트는 이 데이터가 쉽게 다시 식별될 수 있다고 지적했습니다.

NHS 대변인은 가디언지에 보낸 성명에서 FDP 공급자가 공공 계약 규정에 따라 임명되었으며 그 규정에 따라서만 운영된다고 밝혔습니다.