AI융합대학

이우진 교수, 「NeurlPS 2021」에 논문 2편 발표 

"인공지능 보안 및 안정성 관련 논문 연구성과 인정받아"

동국대 인공지능학과 이우진 교수가 지난 6일(월)부터 14일(화)까지 진행된 세계 최고 권위의 인공지능(AI) 학회 「NeurlPS 2021」에 2편의 논문을 발표했다.

NeurlPS(Neural Information Processing System)는 ICML, ICLR 등과 함께 세계적인 인공지능 및 머신러닝 학회로 분류된다. 승인율은 약 20%로 기술 영향도가 뛰어난 연구결과들이 산출된다.

이 교수는 서울대학교 변준영 연구원, 이재욱 교수와 함께 공동 연구한 <Parameter-free HE-friendly Logistic Regression>이라는 논문에서 개인정보 보호를 위해 암호화 된 데이터를 분류작업에 활용할 수 있는 새로운 방법론을 제안했다. 연구팀은 암호화되지 않은 선생 모델 (Teacher model)을 학습시킨 후, 선생 모델의 지식을 암호화된 데이터에 전이시키며 학습을 진행하는 방법을 처음으로 제안했다.

이를 활용하면 효율적으로 모수(parameter)에 영향을 받지 않는 안정적이고 암호화된 로지스틱 회귀분석 모형을 구축할 수 있을 것으로 예상된다. 연구팀은 “최근 데이터의 무분별한 활용으로 인한 개인정보 유출은 방지하면서 데이터를 효과적으로 인공지능 모델 구축에 활용할 수 있어 향후 많은 분야에서 활용될 것”이라고 기대감을 나타냈다.

또한, 이 교수는 고등과학원 이성윤 박사, 서울대학교 박진성 연구원, 이재욱 교수와 함께 연구한 <Towards Better Understanding of Training Certifiably Robust Models against Adversarial Examples> 논문도 발표했다. 이 논문에서 인공지능의 안전성과 관련된 핵심요소를 분석했고, 새로운 방법론을 통해 검증된 안전한 인공지능 모델을 제시했다.

기존 학자들이 주목했던 모델 근사화의 Tightness 외에도 모델을 적절하게 최적화 시킬 수 있는 학습과정에서의 Smoothness가 중요한 요소임을 밝혔다. 또한, 비선형함수의 최적화를 통한 근사로 Tightness와 Smoothness를 동시에 만족시킬 수 있는 새로운 방법론을 제안했다. 연구팀은 “의료 인공지능이나 자율주행과 같은 안정성이 중요한 분야에서 관련연구가 활발하게 사용되기를 바란다”고 전했다.