AI 거버넌스가 있다면, 둘다 선택할 수 있어요. 여러분은 이 둘 중 어떤 선택을 하실 건가요? |
|
|
😂 실력은 좀 부족하지만 착한 직원
VS
😠 성격은 좀 안 좋지만 실력이 뛰어난 직원
그런데 그거 아세요?
AI 모델은 둘 중 하나만 택할 수 없습니다.
둘 다 갖춘 AI
=똑똑하면서도 윤리적인 AI
=AI 거버넌스를 준수하는 AI를 개발해야 해요! |
|
|
아무리 도움이 되는 서비스라도, 사용자가 신뢰하지 않습니다.
AI의 윤리성, 신뢰성이 떨어질 때 나타나는 현상을 살펴볼까요?
1. 환각(할루시네이션, hallucination)
- AI가 사용자의 질문과 상관없는 답변을 합니다.
- 겉으로 봤을 때에는 그럴듯해 보이지만, 알고 보면 사실과 다른 정보를 내놓습니다.
2. 개인정보 유출
- 사용자가 입력한 개인정보가 외부로 유출된다면?
- 학습에 무단으로 활용된다면?
- 방대한 데이터 중 일부를 데이터를 조합했을 경우, 개인을 식별할 수 있다면?
👉 법적, 윤리적 리스크가 발생하기 쉽습니다.
⚠️쿠팡 개인정보 대규모 유출 사건?
- 신뢰를 장기간 쌓아온 대기업이라도, 개인정보 유출이라는 한 번의 사고로 인해 한 순간에 신뢰를 잃어버리게 됩니다.
- 물론 결이 조금 다른 유통 기업의 사례지만, AI 모델에서도 개인정보는 여전히 중요해요.
|
|
|
똑똑하고 윤리적인 AI를 만들고 싶다면?
AI 거버넌스의 대표적인 조건 3가지 |
|
|
1) 개인정보를 철저히 보호하려면? '가명 처리'!
개인정보를 안전하게 다루는 기술적 장치, 그 중 하나가 ‘가명 처리’입니다!
가명처리란?
- 특정한 개인을 식별할 수 없도록 개인정보의 일부를 삭제하거나 다른 값으로 처리하는 방식
- 개인정보는 보호하면서도 데이터의 활용 가치는 유지하며 균형을 유지하는 방식
데이터 레플리카(Data Replica)
- 합성데이터를 생성할 시, 실제 데이터를 '그대로 복사'하지 않습니다.
- 원본 데이터의 구조와 분포 특성은 유지하면서 개인을 식별할 수 없는 형태의 합성데이터를 생성하는 데이터클리닉의 기술!
2) 투명하게 보여주어야 합니다.
"AI가 어떤 데이터로 학습되었고, 어떤 기준으로 판단을 내리는걸까?"
👉 이 질문에 대해 투명하게 모두 답할 수 있다면, 투명한 AI입니다.
- 사용 중인 알고리즘의 종류와 목적
- 학습에 활용된 데이터 소스
- 데이터 처리 및 가공 방식
- 의사 결정에 영향을 미치는 주요 변수 등
위 내용들이 포함되어야 합니다!
투명성을 객관적으로 인정받으려면? '42001 표준'을 준수하세요!
- 인공지능을 얼마나 투명하게 사용하는지를 평가하는 표준
- 42001 표준에 적합한 데이터라면, 갑작스러운 외부 감사에도 무리 없이 대비할 수 있어요!
😥 그런데 표준을 학습하고 지키려면 복잡하고 어려운 부분이 많죠?
데이터클리닉 2.0은 42001 표준을 기반으로 하여,
AI가 투명하게 사용되고 있는지를 지속적으로 점검하고 있습니다!
3) 정형 데이터뿐만 아니라, ‘비정형 데이터’에 대한 품질 관리 표준도 준수해야 합니다.
과거의 표준이 아닌, ‘새로운 표준’을 준수하셔야 합니다!
과거 - ISO/IEC 25012 표준
- 데이터 품질을 15가지 품질 특성으로 구조화하여 ‘무엇을 품질이라 볼 것인가’를 정의해요.
- 그러나 이 표준은 정형 데이터의 품질관리만을 위한 표준입니다.
- 비정형 데이터가 널리 활용되는 현 상황에는 적합하지 않아요.
현재 - ISO/IEC 5259 표준
데이터클리닉 2.0은 이 두 가지 표준을 모두 준수하며 품질 관리를 진행하고 있어요!
|
|
|
오늘 뉴스레터 속 AI 거버넌스를 통해 똑똑하면서도 윤리적인 AI를 완성해보세요!
만약 직접 진행하는 것이 어려우시다면, 데이터 과학자의 노하우가 담긴 데이터클리닉 2.0의 도움을 받아보시는 것도 좋은 방법입니다.
AI Ready Data 시대, 지속적으로 관리하는 구조가 필요하다면 데이터클리닉 2.0을 통해 개선해보세요! |
|
|
🚀 AI 기반 데이터 혁신, 지금 페블러스와 함께 하세요! |
|
|
페블러스는 AI와 데이터 분석을 통해 다양한 산업의 문제를 해결하고,
더 나은 의사결정을 지원합니다.
📌 페블러스에 대해 더 알고 싶거나, 협업 및 파트너십을 논의하고 싶다면
언제든지 연락 주세요!
페블러스 드림 |
|
|
|
