AI 모델의 일부 편향된 데이터 의사결정 과정 고객이 직접 검증 가능
기업에서 사용하고 있는 AI(인공지능) 모델이 일부 편향된 데이터에 근거해 치우친 결과를 도출한 것을 사용 고객이 직접 검증할 수 있도록 했다.
IBM에 따르면, 기업은 다양한 종류의 머신러닝 프레임워크에서 AI 애플리케이션들을 개발 및 관리에 내부 전문인력 부족으로 어려움을 겪는다. 또한 AI가 인사이트를 도출하는 의사결정 과정을 투명하게 확인할 수 없는 '깜깜이' 방식이기 때문에 AI 모델을 신뢰할 수 있는지 해결이 필요하다는 우려가 있다.
IBM 기업가치 연구소가 최근 전세계 5000명의 기업 임원을 대상으로 실시한 조사 결과에 따르면, 응답 기업의 82%가 AI 도입을 검토하고 있는 것으로 나타났다.
하지만 도입의 장애 요인들로 63%의 기업은 "AI를 확실하게 운용할 수 있는 내부 인력이 부족하다"고 답했다. 60%의 기업은 "AI에 활용되는 데이터에 대해 신뢰할 수 없고, 기업 내부 및 외부의 여러 규제를 파악하지 못하는 우려가 있다”는 의견을 보인 것으로 조사됐다.
데이비드 케니(David Kenny) IBM 코그너티브 솔루션(Cognitive Solutions) 담당 수석부사장은 "IBM은 고객이 다양한 머신러닝에서 개발된 AI 애플리케이션을 운용할 수 있도록 지원하는 동시에 투명하고 손쉽게 관리할 수 있도록 최선을 다하고 있다"고 말했다.
IBM은 AI 오픈스케일을 통해 AI가 가지고 있는 블랙박스와 같은 불확실성을 제거, 기업의 AI 도입을 촉진하는 제품으로 자리잡을 것으로 기대했다.
또 기업은 AI 모델이 적용된 시스템이나 운용 환경에 관계 없이 AI가 도출해 낸 의사결정 과정을 정확하게 이해하고 투명하게 관리할 수 있다. AI의 편향성을 탐지, 신속하게 대응할 수 있게 된다.
IBM은 AI 설계에 사용되는 복잡한 심층신경망을 자동으로 구축하는 '뉴넷S(NeuNetS)' 신경망 합성 엔진을 연내에 AI 오픈스케일내에 제공할 계획이다.
IBM이 발표한 AI 오픈스케일은 올해 말 IBM 클라우드와 IBM 클라우드 프라이빗을 통해 제공할 예정이다.