제약 생성형AI 활용, '데이터 보호·규제환경' 과제

"생성형 AI 정보, 사람이 검토해 배포해야"
사람 의사결정 가속화 방법으로 활용
유럽연합 AI 규제법 제정에 미국 등도 나서

장봄이 기자 (bom2@medipana.com)2024-10-31 11:50

[메디파나뉴스 = 장봄이 기자] 제약바이오를 포함한 헬스케어 분야에서 생성형 인공지능(AI) 활용이 증가하고 있는 가운데, 생성형 AI에 내재된 위험을 고려한 데이터 개인정보보호와 복잡한 규제 환경 등이 향후 과제로 떠오르고 있다.

31일 한국바이오협회가 발행한 헬스케어 산업보고서에 따르면, 제약 기업의 생성형 AI 도입과 함께 향후 과제로 ▲부정확한 모델 ▲IP침해 및 데이터 개인정보보호 ▲규제 준수 등이 언급된다.

먼저 생성형 AI는 방대한 학습 내용 중에 비슷한 부분만 묶어 잘못된 정보를 주는 환각 현상이 최대 약점으로 꼽힌다. 이러한 위험은 생성형 AI 주변에 가드레일을 두는 것으로 완화할 수 있다.

최소영 정책분석팀 대리는 보고서에서 "생성형 AI 정보를 환자에게 배포하기 전에 사람이 검토하도록 하는 방안이 필요하다"면서 "핵심은 생성형 AI가 최종 의사 결정자가 되어서는 안 되며, 대신 사람의 의사결정을 가속화하는 방법으로 활용해야 한다"고 설명했다.

또한 검색증강생성(RAG) 기술을 활용해 환각 현상을 최대한 억제하고, 더 적은 리소스로 정확한 생성형 AI 애플리케이션을 구현하는 대안을 고려할 수 있다.

IP침해·데이터 개인정보보호 경우에는 기본 모델에 일반적으로 대량의 인터넷 기반 데이터가 포함되며, 이로 인해 저작권 위반과 표절 및 기타 형태의 IP 침해 혐의가 제기되고 있는 상황이다.

다수 국가들이 정보를 국내 서버에 보관하는 조치가 필요하고, 기업은 자체 지적재산에 대한 모델 교육과 외부 공급업체와의 계약에 IP 보호 기능 작성 등의 방안이 요구된다.

이와 함께 AI 규제를 위한 법제화 논의는 전세계 각 국에서 이어지고 있다. 

유럽연합(EU)은 AI 규제법, 미국은 연방법 및 주입법, 중국은 생성형 AI 서비스에 대한 행정조치 초안 등이 진행되고 있다. AI 경쟁력 강화와 위험성 대응 등을 위한 각국 여건을 고려한 규범체계 정립을 본격적으로 추진 중이다.

한국바이오협회는 "신약 개발뿐만 아니라 전반적으로 AI 기술이 접목되며 활성화하는 추세에 AI 규제에 대한 확실한 검증이 담보돼야 한다"면서 "EU의 발 빠른 AI 규제법 제정에 따라 미국 등 해외 주요국 또한 규제에 나서고 있으며, 이에 따라 AI에 대한 국내 규제방안 마련도 필요한 실정"이라고 설명했다.
 

관련기사보기

AI 병리진단 연구 9년…로슈진단에 기술수출 하기까지

AI 병리진단 연구 9년…로슈진단에 기술수출 하기까지

[메디파나뉴스 = 최성훈 기자] "이번엔 로슈진단에서 미팅을 하자고 찾아왔습니다. 최근 회사가 디지털 병리학(Digital Pathology)에 집중 투자하고 있다면서요. 무척 영광이었습니다. 로슈 내부 프로토콜에 따라 최종 계약이 이뤄지기까지 약 2년이 걸린 것 같아요." 딥바이오 김선우 대표이사는 글로벌 진단 기업인 로슈진단과 협력하게 된 과정에 대해 이같이 술회했다. 최근 김 대표와 회사로선 크나큰 경사를 맞았다. 인공지능 기반 디지털 병리진단 기업으로 사업을 시작한 지 9년, 꿈에 그리던 '라이선스 아웃(기술 수출)'에 성공

고대의대, 29일 '의대생 AI 전문가를 만나다' 좌담회 개최

고대의대, 29일 '의대생 AI 전문가를 만나다' 좌담회 개최

고대의대는 29일 본관 3층 최덕경 강의실에서 '의대생 AI 전문가를 만나다'라는 주제로 의료 AI 전문가 초청 특강과 좌담회를 개최했다고 30일 밝혔다. 이번 행사는 의료 AI에 대한 의대생들의 높은 관심을 반영해 기획됐다. 이번 행사는 의대생들의 진로 고민을 해결할 수 있는 소통의 장으로서 실제 AI 개발에 참여한 전문가들과의 좌담회를 제공해 학생들의 큰 관심을 받았다. 행사에는 연세의대 김휘영 교수의 특강을 통해 의료 AI의 현재와 미래에 대한 깊이 있는 통찰을 공유했다. 이어서 루닛의 조수익 이사, 투비닥터(To Be 닥터)

셀트리온, ACAAI서 '옴리클로' 40주 임상결과 첫 공개

셀트리온, ACAAI서 '옴리클로' 40주 임상결과 첫 공개

셀트리온이 2024 미국 알레르기 천식 면역 학회(American College of Allergy Asthma and Immunology, 이하 ACAAI)에서 'CT-P39(제품명: 옴리클로, 성분명: 오말리주맙)'의 글로벌 3상 40주 결과와 1상 임상 결과를 각각 구두 발표 및 포스터 발표 형식으로 공개했다고 29일 밝혔다. 올해로 82회째를 맞이한 ACAAI는 전 세계 알레르기, 천식, 면역학 전문가들이 모여 최신 연구와 임상 성과를 공유하는 연례 학술대회로, 이달 24일부터 28일까지 닷새간 미국 보스턴에서 열렸다. 셀트

JW중외제약, 美 템퍼스AI와 항암 신약 개발 협력

JW중외제약, 美 템퍼스AI와 항암 신약 개발 협력

JW중외제약은 인공지능(AI) 기반 정밀의료 분야의 글로벌 선도기업 미국 템퍼스AI(Tempus AI)와 협력해 실제 임상 데이터(Real-World Data, RWD)와 오가노이드를 활용한 항암 신약 개발을 가속화한다고 29일 밝혔다. 이번 협력은 종양학 분야의 신약후보물질에 대한 유효성 및 안전성 검증을 신속히 진행하며, 다양한 암 적응증에 대한 연구 효율성을 높이는 데 중점을 두고 있다. JW중외제약은 템퍼스AI가 보유한 임상 기록, 병리 이미지 등의 멀티모달(multimodal) 데이터와 환자 유래 오가노이드 모델을 활용해

HLB파나진, 면역진단·AI 확보로 암 동반진단 트랜드 선제적 대응

HLB파나진, 면역진단·AI 확보로 암 동반진단 트랜드 선제적 대응

HLB파나진은 국내 주요 엑셀러레이터(AC)인 '블루포인트파트너스'가 개최한 세미나에서 암 동반진단의 미래 트랜드를 공유하고 이에 대비한 회사의 전략을 소개했다고 밝혔다. 지난 25일 열린 세미나는 '동반진단 기술-정밀 종양학'이라는 주제로 진행됐으며, 박재진 HLB파나진 연구소장이 연자로 나서 '플랫폼 기반의 정밀 암 동반진단'이라는 제목으로 발표했다. 박 연구소장은 "미래 암 동반시장은 '멀티모달(multimodal)'의 시대가 될 것"이라고 말했다. 환자의 상태를 보다 정확히 파악하기 위해 다양한 진단 플랫폼을 동시에 활용해

이런 기사
어때요?

실시간
빠른뉴스

당신이
읽은분야
주요기사

독자의견

작성자 비밀번호

0/200

메디파나 클릭 기사

독자들이 남긴 뉴스 댓글

포토