지난달 오픈AI반대했다대규모 인공 지능(AI) 모델 개발자를 위한 기본 안전 표준을 설정하는 것을 목표로 하는 아직 제정되지 않은 캘리포니아 법률입니다.이는 이전에 Sam Altman 최고 경영자(CEO)가 있었던 회사의 태도 변화였습니다.지지하는 말을 했다AI 규제의.

2022년 ChatGPT 출시로 두각을 나타낸 이전 비영리 조직은 현재 가치가최대 1,500억 달러.지난 주에 출시되면서 AI 개발의 최전선에 남아 있습니다.새로운 "추론" 모델더 복잡한 작업을 처리하도록 설계되었습니다.

회사는 최근 몇 달 동안 데이터 수집에 대한 욕구가 증가하고 있음을 시사하는 몇 가지 조치를 취했습니다.여기에는 현재의 생성 AI 도구를 훈련하는 데 사용되는 텍스트나 이미지뿐만 아니라 온라인 행동, 개인 상호 작용 및 건강과 관련된 친밀한 데이터도 포함될 수 있습니다.

OpenAI가 이러한 다양한 데이터 스트림을 통합할 계획이라는 증거는 없지만 그렇게 하면 강력한 상업적 이점을 얻을 수 있습니다.그러한 광범위한 정보에 접근할 가능성조차도 개인정보 보호와 개인 정보 보호에 대한 중요한 질문을 제기합니다.윤리적 의미중앙 집중식 데이터 제어.

미디어 거래

올해 OpenAI가 서명했습니다.여러 파트너십~와 함께미디어 회사포함시간잡지,파이낸셜 타임즈, 액셀 스프링거,르 몽드, Prisa Media 및 가장 최근에는 다음과 같은 회사의 소유주인 Condé Nast가 있습니다.인기,뉴요커,배니티 페어그리고열광한.

파트너십을 통해 OpenAI는 대량의 콘텐츠에 액세스할 수 있습니다.OpenAI의 제품은 플랫폼 전반의 독서 습관, 선호도, 참여 패턴과 같은 사용자 행동 및 상호 작용 지표를 분석하는 데 사용될 수도 있습니다.

OpenAI가 이 데이터에 액세스할 수 있게 되면 회사는 사용자가 다양한 유형의 콘텐츠에 어떻게 참여하는지에 대한 포괄적인 이해를 얻을 수 있으며, 이는 심층적인 사용자 프로파일링 및 추적에 사용될 수 있습니다.

비디오, 생체 인식 및 건강

OpenAI도 투자했습니다.Opal이라는 웹캠 스타트업.목표는 고급 AI 기능으로 카메라를 향상시키는 것입니다.

AI 기반 웹캠으로 수집된 비디오 영상은 얼굴 표정, 추론된 심리 상태 등 보다 민감한 생체 인식 데이터로 변환될 수 있습니다.

지난 7월 OpenAI와 Thrive Global은 Thrive AI Health를 출시했습니다.회사는 AI를 활용해 “초개인화 및 행동 변화 확장"건강에.

Thrive AI Health는 "강력한 개인 정보 보호 및 보안 가드레일"을 갖추게 될 것이라고 말하지만 이것이 어떤 모습일지는 확실하지 않습니다.

이전 AI 건강 프로젝트에는 미국의 Microsoft와 Providence Health 간의 파트너십, 영국의 Google DeepMind와 Royal Free London NHS Foundation Trust 간의 파트너십 등 개인 데이터의 광범위한 공유가 포함되었습니다.후자의 경우 DeepMind법적 조치를 당했다개인 건강 데이터를 사용하기 위해.

Sam Altman의 안구 스캔 사이드 프로젝트

Altman은 또한 데이터가 부족한 다른 벤처, 특히 WorldCoin(그가 공동 창립한)이라는 논란의 여지가 있는 암호화폐 프로젝트에 투자하고 있습니다.WorldCoin은 생체 인식, 특히 홍채 스캔을 사용하여 글로벌 금융 네트워크 및 식별 시스템을 만드는 것을 목표로 합니다.

회사는 이미 그렇게 했다고 주장한다.650만 명이 넘는 사람들의 안구를 스캔했습니다.거의 40개국에 걸쳐 있습니다.한편, 12개 이상의 관할권에서 운영을 중단하거나 데이터 처리를 면밀히 조사했습니다.

바이에른 당국은 현재 다음 사항을 심의 중이다.Worldcoin이 유럽 데이터 개인 정보 보호 규정을 준수하는지 여부.부정적인 판결로 인해 해당 회사는 유럽에서 영업이 금지될 수 있습니다.

조사 중인 주요 관심사에는 민감한 생체 인식 데이터의 수집 및 저장이 포함됩니다.

이것이 왜 중요합니까?

OpenAI의 주력 제품인 GPT-4o와 같은 기존 AI 모델은 주로 다음과 같이 훈련되었습니다.공개적으로 사용 가능한 데이터인터넷에서.그러나 미래의 모델에는 더 많은 데이터가 필요할 것입니다.오기가 점점 더 어려워진다.

작년에 회사에서말했다AI 모델이 "가능한 한 광범위한 교육 데이터 세트"가 필요한 "모든 주제, 산업, 문화 및 언어를 깊이 이해"하기를 원했습니다.

이러한 맥락에서 OpenAI의 미디어 파트너십 추구, 생체 인식 및 건강 데이터 수집 기술에 대한 투자, Worldcoin과 같은 논란이 많은 프로젝트에 대한 CEO의 연결은 우려스러운 그림을 그리기 시작합니다.

OpenAI는 방대한 양의 사용자 데이터에 액세스함으로써 차세대 AI 모델을 구축할 수 있는 입지를 확보하고 있지만 개인 정보 보호가 피해를 입을 수 있습니다.

위험은 다면적입니다.대량의 개인 데이터 수집은 다음과 같은 위반 및 오용에 취약합니다.Medisecure 데이터 침해호주인의 거의 절반이 개인 및 의료 데이터를 도난당했습니다.

대규모 데이터 통합 ​​가능성으로 인해 프로파일링 및 감시에 대한 우려도 제기됩니다.다시 말하지만, OpenAI가 현재 그러한 관행에 참여할 계획이라는 증거는 없습니다.

그러나 OpenAI의 개인정보 보호정책은과거에는 완벽하지 않았어.기술 회사는 더 광범위하게도 오랜 역사를 가지고 있습니다.의심스러운 데이터 관행.

다양한 종류의 데이터에 대한 중앙 집중식 제어를 통해 OpenAI가 개인 및 공개 영역 모두에서 사람들에게 상당한 영향력을 행사할 수 있는 시나리오를 상상하는 것은 어렵지 않습니다.

안전이 뒷자리를 차지할까요?

OpenAI의 최근 역사는 안전 및 개인 정보 보호 문제를 해결하는 데 거의 도움이 되지 않습니다.2023년 11월 알트만은일시적으로 축출됨~처럼최고 경영자회사의 전략 방향을 둘러싼 내부 갈등 때문인 것으로 알려졌다.

Altman은 AI 기술의 신속한 상용화 및 배포를 강력하게 옹호해 왔습니다.그는 종종 성장과 시장 침투를 우선시한 것으로 알려졌습니다.과도한 안전 조치.

Altman의 역할 제거는 짧았지만그 후 빠른 복원OpenAI 이사회가 크게 개편되었습니다.이는 회사 경영진이 잠재적인 위험에도 불구하고 AI 배포에 대한 그의 공격적인 접근 방식을 지지하고 있음을 의미합니다.

이러한 배경에서 OpenAI가 최근 캘리포니아 법안에 반대한 것은 단일 정책 불일치 이상의 의미를 갖습니다.규제 반대 입장은 우려스러운 추세를 시사한다.

OpenAI는 마감일 이전에 The Conversation의 논평 요청에 응답하지 않았습니다.

이 기사는 다음에서 재출판되었습니다.대화크리에이티브 커먼즈 라이센스에 따라.읽기원본 기사.