인공지능은 운영 최적화와 사기 탐지부터 고객 상호작용 및 디지털 티켓팅에 이르기까지, 이동성 및 교통 시스템에 빠르게 접목되고 있습니다. 대중교통 운영사들에게 있어 문제는 더 이상 인공지능을 도입할지 여부가 아니라, 이를 어떻게 책임감 있게 도입할 것인가에 있습니다. 이 과제의 핵심에는 근본적인 문제가 자리 잡고 있습니다. 바로 이동성 데이터는 그 특성상 특히 민감한 정보이며, 인공지능은 이 데이터의 가치와 관련된 위험을 모두 크게 증폭시킨다는 점입니다.
이동성 데이터: 높은 가치, 높은 민감도
모빌리티 시스템은 항상 데이터에 의존해 왔지만, 모빌리티 데이터는 본질적으로 많은 정보를 드러냅니다. 기본적인 이동 데이터조차도 다음과 같은 정보를 드러낼 수 있습니다:
- 여행 패턴과 일상 생활
- 집이나 직장 등 자주 가는 장소
- 시간에 따른 행동 변화 추세
- 건강, 신념 또는 개인적 사정과 관련된 민감한 추론
모빌리티 분야에 AI를 도입하면 효율성과 이용자 경험을 향상시킬 수 있지만, 동시에 위험과 개인정보 및 안전 문제를 야기할 수 있으며, 이용자에 대한 상세한 프로필을 생성할 수도 있습니다. 모빌리티 사업자는 이용자 데이터의 관리자 역할을 맡고 있으며, AI 기술로 인해 충분한 감독 없이 이러한 데이터가 유출되거나 상업화될 수 있습니다.
AI는 조직의 데이터 위험을 증가시킨다
AI는 모빌리티 시스템에서 데이터가 활용되는 방식을 근본적으로 변화시킵니다.
이는 단순한 처리뿐만 아니라 추론을 가능하게 하여, 명시적으로 수집된 적이 없는 개인에 대한 새로운 지식을 창출합니다. 따라서 핵심적인 질문은 다음과 같습니다. 이러한 추론 데이터는 어떻게 처리되는가? 누가 이를 사용할 수 있는가? 데이터는 안전하게 보관되고 있는가, 그리고 AI 시스템 공급업체와 공유되는가?
또한 AI 도구는 제3자 인프라, 모델 및 서비스에 대한 의존도를 더욱 심화시킵니다. 사업자가 한 공급업체의 AI를 도입하면, 향후 공급업체를 변경하는 것이 불가능하지는 않더라도 매우 어려워집니다. 따라서 초기 조달 과정은 모빌리티 사업자가 데이터 거버넌스 및 관리 책임을 공급업체와의 관계에 확실히 반영해야 하는 결정적인 시점이 됩니다.
제3자 리스크가 핵심으로 부상한다
AI 솔루션은 외부 공급업체, 내장형 서비스, 그리고 조직 경계를 넘나드는 복잡한 데이터 흐름에 의존합니다. 이로 인해 계약상 안전장치가 마련되어 있더라도 데이터가 운영자의 직접적인 통제 범위를 벗어나 이동할 수 있습니다.
대중교통 운영사는 시민 데이터의 관리자로서, 해당 데이터가 안전하고 적절하게 사용되도록 보장할 책임이 있습니다. 이를 위해서는 기술적, 아키텍처적, 운영적 통제 수단을 바탕으로 실무에서 거버넌스를 적극적으로 이행하는 체계적인 접근 방식이 필요합니다.
- 설계 단계에서의 데이터 최소화
- 공유 및 재사용에 대한 엄격한 통제
- 내부에서 역할 기반 접근 권한을 명확히 설정
- 제3자와의 상호작용에 대한 지속적인 감독
- 견고한 비식별화 아키텍처
- 감사 가능성 및 보고
- 새로운 기술과 기능이 도입됨에 따라 지속적인 검토를 실시
거버넌스는 기술의 발전에 발맞춰 나가야 한다
AI 기술이 급속히 발전하고 있는 반면, 거버넌스 체계는 그 속도를 따라가지 못하고 있습니다. 대중교통 운영사들은 데이터 거버넌스를 조달, 구축 및 운영 과정에 체계적으로 반영해야 하며, 이를 사후 고려 사항이나 장애물로 여겨서는 안 됩니다.
여기에는 시스템의 작동 방식, 데이터 활용 방식, 그리고 시간이 지남에 따라 위험이 어떻게 관리되는지를 검증하는 작업이 포함됩니다. 따라서 운영사는 조달 계약 및 공급업체 관계와 관련된 기술적, 개인정보 보호, 보안적 요소를 이해할 수 있는 인력이 필요합니다.
구매하는 제품이 무엇인지, 그리고 공급업체가 라이더들의 데이터를 어떻게 활용할지 모른다면, 그 데이터를 효과적으로 관리할 수 없습니다.
모빌리티 사업자를 위한 행동 촉구
AI 기반 모빌리티로의 전환은 이미 진행 중입니다. 대중교통 운영사들에게 있어 과제는 단순히 AI를 도입하는 것뿐만 아니라, 냉철한 판단과 현실적인 기대, 그리고 견고한 거버넌스를 바탕으로 이를 추진하는 데 있습니다. 이를 위해서는 AI 시스템이 해당 기관 내에서 어떻게 운영될지 적극적으로 검토해야 합니다:
- 데이터가 어떻게 수집, 처리 및 저장되는지.
- 어떤 추론이 도출되며, 이것이 개인에게 어떤 영향을 미칠 수 있는지.
- 데이터가 시스템 간, 다른 공공기관 및 상업적 제3자와 어떻게 공유되는지.
- 외부 서비스 제공업체들이 운영사의 규칙과 기대 사항을 진정으로 준수하고 있는지, 그리고 운영사가 제3자가 승객 데이터를 처리하는 방식을 실제로 파악하고 있는지 여부.
AI 기반 환경에서는 데이터 거버넌스가 계약상의 보장에만 의존해서는 안 됩니다. 운영자는 강력한 기술적 통제 수단과 책임성 확보 체계를 구축하고, 데이터 흐름이 투명하고 감사 가능하도록 보장해야 하며, 제3자의 데이터 사용이 자신의 데이터 관리 책임과 부합하도록 해야 합니다.
동시에, 조직들은 강력하지만 빠르게 변화하고 종종 불투명한 기술인 AI의 전망에만 휩쓸려서는 안 됩니다. AI의 경우 위험을 예측하기 어려울 수 있기 때문입니다. 모빌리티 환경에 AI 도구를 도입할 때 발생하는 이점과 위험, 모빌리티 데이터의 민감성, 그리고 해당 데이터의 관리자로서 모빌리티 사업자가 수행하는 특별한 역할을 모두 인식하는, 균형 잡히고 체계적인 접근 방식이 필수적입니다.
