“인공지능의 미래를 위한 준비” RFI에 대한 IBM 제언서

영문 원본:  http://research.ibm.com/cognitive-computing/ostp/rfi-response.shtml
2016.06.27 미 백악관 과학기술정책실 RFI 대응

소개

IBM은 지난 50년간 AI기술 연구에 개발 및 투자를 하고 있습니다. 2011년 황금시간대에 방영된 텔레비전 프로그램인 제퍼디에서 IBM 왓슨이 역사적인 수상을 하였을때, 일반인들은 비로소 중요한 (역사적) 진전이 이루어지고 있음을 알게 되었습니다. 그 이후 IBM은 왓슨 플랫폼을 발전 및 확장시켰고 건강관리, 금융, 전자상거래, 교육, 보안 및 사물인터넷(IoT) 등이 포함된 다양한 산업분야에 왓슨을 적용해 왔습니다.
IBM은 이 기술에 최선을 다하고 있으며 개인 및 직업을 변화시키는 것은 물론 사회에 도움이 될 수 있다는 가능성을 강하게 믿고 있습니다.
이를 위해 IBM은 연구개발(R&D)에 수많은 과학자와 엔지니어가 종사하고 있으며, 고객, 학계, 외부 전문가, 심지어는 경쟁자들과 제휴하여 AI관련 모든 주제를 탐구하고  있습니다 또한 수십년에 걸친 AI관련 연구 및 상업적 적용을 통해서 고유의 관점을 만들어가고 있습니다.
IBM에서는 “인공지능(artificial intelligence)”이라기 보다는 “확장지능(augmented intelligence)”이라는 용어를 사용하고 있습니다. 이는 인간지능의 모든것을 복제하려고 시도하기 보다 인간의 전문성을 강화하고 규모를 확장하는 시스템들 간 중요한 차이점입니다.
우리는 잘 정의된 업무(task)를 통해 사람들을 도와서 실용적인 AI애플리케이션을 구축하는데 집중하고 있으며, 그 과정에서 일반화된 AI서비스들을 플랫폼 상에서 광범위하게 노출함으로써 새로운 어플리케이션들을 광범위하게 지원하고 있습니다.
확장지능에 대한 우리의 특별한 접근 방법을 “인지컴퓨팅(Cognitive Computing)”이라 부릅니다.
인지컴퓨팅(Cognitive computing)은 머신러닝(machine learning), 추론 및 의사결정 기술, 언어, 음성 및  시각화 기술, 휴먼 인터페이스 기술, 분산 및 고성능 컴퓨팅, 새로운 컴퓨팅 아키텍처 및 장치 등에 기반한 포괄적 기능들의 집합입니다.
이들 기능을 목적에 맞게 통합할 경우, 이러한 역량들은 광범위한 실제적인 문제들을 해결하고, 생산성을 높이며, 많은 산업분야에서 새로운 발견을 촉진하도록 설계되었습니다.
이것이 오늘날 시장에 도입하기 위한 IBM왓슨의 형태입니다.
이제부터 RFI의 질문에 대한 간단한 답변(순서 재구성 및 일부 내용 세분화 함)이며 자세한 정보는 별도 링크를 통해 보실 수 있습니다.

A. 공익을 위한 AI 사용 (RFI 질문 2)

우리는 수십 년 동안 디지털정보를 축적해오고 있습니다. 과거부터 현재까지의 세계문학과 의학저널을 모두 디지털화 했습니다. 자동차, 기차, 비행기, 휴대전화의 이동을 추적하고 저장합니다. 그리고 소셜미디어를 통해 실시간으로 수 많은 사람들의 감정을 읽어내고 있습니다.
이처럼 급속하게 성장하는 디지털정보에는 암을 정복하고 기후변화를 되돌리거나 글로벌경제의 복잡성을 관리하는 비밀이 있을거라 기대할만한 충분한 가치가 있습니다.
지구상의 생명을 유지하는 중대시스템의 모호성과 비효율성의 대부분이 제거될 수 있다고 생각합니다.그리고 AI시스템은 이러한 야심찬 목표를 달성하는데 도움이 되는 도구라고 생각하며, 우리는 이미 이러한 많은 것들을 추진하고 있습니다.

• 의료서비스 :  AI 시스템은 환자의 전자의료기록 및 관련 의학문헌 수집, 코호트분석 수행, 유사환자의 세분화를 통한 식별, 표준진료 사례 및 가능한 치료옵션 평가, 관련도, 위험 및 선호도에 따른 우선순위 부여, 궁극적으로는 환자에게 가장 효과적인 치료를 추천해 주는 정밀의학을 발전시킬 수 있습니다.
• 사회복지사업 :  AI 시스템은 서비스를 필요로 하는 시민들에게 신속하고 적절한 답변을 제공 할 수 있으며, 보험, 세금 및 사회보장 프로그램을 통해 시민들을 지원고, 개인 및 관련집단의 요구사항을 예측하고, 자원의 효율적 배치를 위한 계획을 수립할 수 있습니다.
• 교육 : AI 시스템은 개인 또는 학생그룹에 대한 맞춤형 교육 프로그램을 개발하여 교사를 지원하고, 다양한 학습스타일과 방법을 사용하여 학생들을 지원하고, 효과적인 조기교육, 초.중.고 교육프로그램을 개발할 수 있습니다
• 금융서비스 : AI 시스템은 자격을 갖춘 지원자에 대해 금융서비스를 확장시킬 수 있고, 적정 비용으로 최고의 보험을 제공하는데 도움을 주며, 연방.주.지방의 규정을 준수하고, 세금 및 기타 금융 프로그램에 대한 사기 및 낭비를 줄일 수 있습니다
• 교통 : AI 시스템은 대중교통시스템의 효율성 향상, 반자동기능이 장착된  운전자 보조도구가 설치된 대중교통 지원, 사건 관리 및 연료사용 최적화, 기반설비 및 철도차량의 유지보수를 지원할 수 있습니다.
• 공공안전 : AI 시스템은 머신비전(machine vision)을 사용하여 안전요원에게 이상탐지를 지원할 수 있고, 범죄예측모델을 구축하며, 대량의 정보들로부터 연관성을 찾을 수 있도록 조사관들을 도울 수 있습니다.
• 환경 : AI 시스템은 복잡한 관계를 이해하고 정확한 예측, 오염물질과 이산화탄소 배출량 (탄소 발자국) 관리를 위한 환경모델을 구축하는데 도움을 줄 수 있습니다.
• 사회기반시설 : AI 시스템은 사회기반시설의 수요, 공급, 사용에 대한 예측, 프로젝트 계획 및 실행, 구축된 기반시설의 유지보수를 지원할 수 있습니다.

추가 상세정보는 여기를 클릭하세요

B. AI의 사회경제적 의미 (RFI 질문 4)

AI 시스템은 이미 업무처리 방식에 변화를 가져오고 있습니다. 하지만 역사적인 관점에서 보면, AI와 같은 새로운 기술들은 생산성 향상, 소득증대 그리고 전체 일자리 증가를 초래하는 것으로 나타나고 있습니다. 특히, 우리는 새로운 기업, 새로운 일자리, 그리고 완전히 새로운 시장이 이러한 기술에 기반해서 생겨날 것으로 믿고 있습니다. 또한 우리는 AI 시스템이 필수서비스에 대한 소외집단의 접근성을 개선시킬 수 있다고 생각합니다. 전반적으로, 삶의 질에 대한 대폭적인 개선을 기대합니다.
AI의 존재여부는 사람들의 감성 및 의사결정능력(예, 노인 보호)에 중대한 영향을 가져오기 때문에    이러한 AI 시스템이 사회에 완전히 받아들여지기 위해서는 중요한 사회적기능이 필요합니다. 이와 더불어 AI 시스템은 인간의 가치에 맞춰서 특정 행동원칙을 배우고 준수하는 방법을 이해해야 합니다.
추가 상세정보는 여기 를 클릭하세요.

C. AI 기술활용을 위한 교육 (RFI 질문 7)

공공 및 민간 AI 솔루션에 대한 잠재력은 AI 기술에 대한 급속한 수요증가를 만들었습니다. 이러한 요구를 충족시키기 위해 일류대학들은 새로운 AI 교육과정을 만들고 있습니다. 선도기업은 이미지인식에서 머신러닝(machine learning)에 이르는 인공지능(AI) 기반 서비스를 갖춘 클라우드플랫폼을 교수와 학생들이 사용할 수 있도록 제공합니다. 그러나 대부분의 교육과정과 플랫폼은 프로그래밍 기술과 고급수학 능력 등을 사전요건으로 요구합니다. 정부기관, 연구기관, 대학 그리고 재단은 공동작업을 통해 자신의 경력을 재편성하려는 수많은 학생 및 교수들이 쉽게 접근할 수 있는 AI 시스템 구축, 이해 및 협업에 관련된 학습을 할 수 있습니다.
추가 상세정보는 여기 를 클릭하세요.

D. AI 연구관련 근본적 질의사항, 가장 중요한 연구 차이 (RFI 질문 5와 6)

AI 시스템이 개인과 직무에 있어 삶의 질을 향상시키기 위해서는 여러영역으로부터 광범위하고 깊은 지식을 습득하고, 사람과 환경에 지속적으로 상호작용하고 배우며, 추론을 통한 의사결정을 지원할 수 있어야 합니다. 넓은 의미에서 AI 분야의 장기적인 지속력은 다음과 같은 여러분야의 발전에 의존합니다. 

• 머신러닝과 추론: 현재 대부분의 AI 시스템은 학습(training)을 위해 다량의 주석데이터(labeled data)를 활용하는 지도학습을 사용하고 있습니다. AI 시스템이 사람과 유사하게 학습하기 위해서는 기초연구가 필요합니다. 즉, 지시, 상호작용(토론, 논쟁, 다른 사람의 학습 관찰)을 통하거나, 작업을 수행(운전기술 활용)하거나, 소량의 자료를 가지고도 일반화하거나, 수많은 과업에 걸쳐 기술을 이전하는 것 등 사람이 하는 것처럼 말입니다.
• 의사결정 기술: AI 기반기술이 널리 성공하기 위해서는 시스템 리스크를 모델화하고, 거래를 분석하며, 문맥상 비정상적인 부분을 감지하고, 프라이버시 보호하에 데이터를 분석하며, 불확실성 가운데 의사결정을 하는 새로운 기술이 개발되어야 합니다.
• 특정분야의 AI 시스템: 제약, 공학, 법률 및 수천가지 이상 인간의 전문성(human expertise)을 가진 분야를 깊이 이해하는데 있어서, 지식습득, 표현, 추론에서 특히 어려운 문제가 나타나고 있습니다. AI 시스템은 모순을 관리하고, 실험적인 것을 설계하며, 협상을 하는 등 궁극적으로 전문가 수준의 과업을 수행해야 합니다.
• 자료 확실성과 신뢰: 학습 및 테스트 데이터는 편향적이거나, 불완전하고, 좋지않은 방향으로 조정되었을 수 있습니다. 자료의 불확실성을 검증하고, 자료의 질적 수준과 일관성을 확인하고, AI 시스템이 더 객관적이고 탄력적이고 정확하게 하기위한 기술에 커다란 노력을 기울여야 합니다. AI 시스템이 사용자의 의도와 중요성을 이해하고, 추론을 설명하고, 실수로부터 배울 때 사람들은 AI 시스템을 신뢰할 것이며, 독립적으로 증명될 수 있을 것입니다.
• 급변하는 효율적인 컴퓨팅 인프라: 규모에 맞게 배치될 경우, AI 시스템은 예상치못한 작업량을 처리해야할 것입니다. 따라서 고성능의 분산 클라우드시스템과 신경회로적(neuromorphic)이고 근사치 컴퓨팅(approximate computing)과 같은 새로운 컴퓨터 구조와, 퀀텀 및 새로운 종류의 메모리 기기들 개발이 필요합니다.

추가 상세정보는 여기 를 클릭하세요.

E. AI 연구를 가속시킬 수 있는 데이터 집합 (RFI 질문 9)

AI 시스템을 개발하고 검증함에 있어서 주요 병목사항은 충분히 크고, 개방적으로 관리되는(curated) 공용의 학습 데이터 집합에 대한 공공 접근성입니다. 지도(supervised)/비지도(unsupervised) 머신러닝은 정확한 모델을 훈련하기 위한 방대하고, 편향되지 않은 데이터를 필요로 합니다. 딥러닝(Deep Learning)은 연설문, 언어 번역, 이미지 자막과 질의.응답 능력을 넘어서고 있습니다. 비디오 인식과 같은 새로운 AI의 진보는 새로운 데이터의 생성을 필요로 합니다. 암 방사선학, 보험조정과 같은 심도있는 영역의 과업은 특화되고 얻기 어려운 데이터 집합을 필요로 합니다. 입력자료들과, Model Zoo(= 미리 만들어 놓은 모델) 같은 메카니즘을 통해 학습된 모델들을 더 많이 공유하기 위한 장려책이 마련되어야 합니다.
추가 상세정보는 여기 를 클릭하세요.

F. 융합학문적 연구 (RFI 질문 8)

상기 ‘D. AI 연구관련 근본적 질의사항, 가장 중요한 연구 차이’에 언급된 연구영역 대부분은 AI 연구자들만으로 달성하기 어렵습니다. 심리학, 철학, 사회학, 예술, 규제, 법학과 같은 다양한 영역의 전문가들간 협업이 반드시 필요합니다. 추가적으로 산업특화된 지식을 가진 전문가 협회는 AI 어플리케이션을 알리는 중요한 역할을 가지고 있습니다. 이를 위하여, IBM은 조속한 과학생태계 조성을 목적으로 다수의 교육센터들과 네트워크를 형성하는 과정에 있습니다.
추가 상세정보는 여기 를 클릭하세요.

G. 인센티브 및 포상의 역할 (RFI 질문 10)

AI의 기본구성요소가 개선함에 따라, 차세대 인간중심의 시스템 설계를 고취시키는 인센티브도 개선되어야 합니다. 예를들어 IBM은 세계의 중대과제를 해결하기 위해 여러 팀들이 AI 시스템을 최적으로 사용하도록 장려하는 500만 달러 규모의 AI XPrize 를 설립하였습니다. IBM은 AI 연구 커뮤니티를 위한 추가적인 과학적 챌린지를 추진하고 있습니다.
추가 상세정보는 여기 를 클릭하세요.

H. AI에 대한 안전성 및 통제 이슈 (RFI 질문 3)

인공지능을 통해 사회적인 혜택을 누리기 위해서는 먼저 인공지능을 신뢰(Trust)할 필요가 있습니다. 이러한 신뢰는 우선 경험을 통해 얻게됩니다. 마치 우리가 ATM 기기에 돈을 입금하면 통장에 돈이 들어갈 것이라고 믿는 것과, 브레이크를 밟으면 자동차가 멈출 것이라고 경험을 통해 배우는 것과 같습니다. 간단히 얘기해서 우리는 기대하고 예상하는대로 행동하는 것들을 신뢰합니다. 하지만 신뢰를 위해서는 단순히 경험 뿐만 아니라, AI의 안전성 및 윤리경영을 가이드해 줄 수 있는 어떤 모범적인 시스템이 함께 동반되어야 합니다. 그 시스템에는 사회적 규범 및 가치를 따르는 것, 알고리즘 상의 책임, 그리고 프라이버시 및 개인정보 보호 등이 포함됩니다. 현재 IBM은 비즈니스 파트너들, 대학연구실, 심지어 경쟁사들과의 협업을 통해 그러한 시스템을 개발 중에 있습니다.
추가 상세정보는 여기 를 클릭하세요.

I. AI의 법률 및 거버넌스 영향도 (RFI 질문 1)

AI 정책 입안은 책임성(responsibility)을 기반으로 해야합니다. 포용적대화(inclusive dialogue)를 통해서 헤드라인이나 광고를 넘어서고, 심도있는 이해와 새로운 스킬 집중을 촉진하는 타당한 주제들을 탐색할 수 있습니다. 증기기관에서 마이크로프로세서에 이르기까지 인간이 만든, 생활을 변화시키는 모든 도구는 인간의 역량을 증대시키고, 꿈을 더크게 꾸며, 성과를 더 내게 할 수 있습니다. 이러한 도구를 가진 사람들은 완전히 새로운 수준의 빅데이터 문제들을 해결할 것입니다. 글로벌 공동체의 구성원으로서 우리의 책임은 AI가 정당한 사유를 위해서, 올바른 방법으로 개발되도록 최선을 다해 보장하는 것입니다
추가 상세정보는 여기 를 클릭하세요.

J. 기타 이슈 : 비즈니스 모델 (RFI 질문 11)

시장중심의 경제에서는 사회에 더 효과적인 성과와 전반적인 유익을 보상해주는 새로운 비즈니스 모델의 생성에 따라 진행이 결정적으로 달라집니다.
추가 상세정보는 여기 를 클릭하세요.

맺음말

AI 시스템은 인간의 지능을 보강하고, 궁극적으로 개인 및 직업적 삶을 변화시킬 것입니다. 그것이 가져다 주는 혜택은 위험성을 훨씬 앞지릅니다. 그리고 올바른 정책과 지원이 있으면, 그 혜택은 더 빨리 실현될 수 있습니다.
다음은 정책입안자가 중점을 두어야 하는 사항입니다.

• AI 기술의 역량과 한계에 대한 사실중심의(fact-based) 대화를 촉진
• 광범위한 공공이익을 위해 AI 시스템을 활용하기 위한 점진적인 사회적 경제적 정책을 개발
• 미래세대를 위한 점진적인 교육 및 인력 프로그램을 개발
• AI 시스템의 학문과 설계를 발전시키기 위해 장기 융합연구 프로그램에 대한 투자

추가 상세정보는 여기 를 클릭하세요.


------------------------------------------------------------------------------------------------------

A. 공익을 위한 AI 사용 (RFI 질문 2)

2016 년 7 월 28 일 최종 수정

수십 년 동안, 우리는 디지털 정보를 비축하고 있습니다. 세계 문학의 역사와 의학 저널을 모두 디지털화 했습니다. 자동차, 기차, 비행기와 휴대 전화의 움직임을 추적 저장합니다. 그리고   소셜 미디어를 통해 실시간으로 수많은 사람들의 감정을 살핍니다. 이처럼 급속하게 성장하는 디지털 정보에 암을 물리치고 기후 변화를 역전시키거나, 또는 세계 경제의 복잡성을 관리하는 비밀이 있다고 기대하는 것이 터무니 없지는 않을 것입니다. 여러 가지 시스템의 모호한 부분과 비효율적인 부분의 개선을 통해 삶을 좀더 편리하게 만들수 있을것이라 믿고 있습니다. 그리고 AI 시스템은 이러한 야심찬 목표를 달성하는데 도움이되는 도구라고 생각합니다.
전체적으로 우리 사회는 우리의 최고의 통찰력을 적절한 때와 장소에서 사용치 못함으로 인해 엄청난 대가를 치르고있습니다. 단지 우리 수중에 해당 업무 및  결정과 관련되어 생성되는 모든 정보를 습득할수 있는 시간이 없기 때문에 이러한 상황이 발생합니다. 데이터는 "새로운 천연 자원"일 수 있지만 그 양이 너무 방대해서 활용하기 어려워지고 있습니다. AI 도구는, 특히 인지적 도구는 엄청난 양의 문자, 소리, 이미지를 포함한 다양한 형태의 정보를 받아들일 수 있는 능력이 있으며, 사람들이 통찰력을 발견하고 최선의 결정을 내릴 수 있도록 도움을 주는 강력한 도구 입니다. 사회가 더 많은 정보와 지식을 활용하는 형태로 변화함에 따라, 특정 환경 및 상황에 특화된 인지 시스템은 더욱 의사 결정에 도움을 주게 될 것입니다.  인지시스템은 공공의 이익 증대를 위한 다양한 문제에 적용할 수 있습니다. 이 장에서는 건강 관리, 법 집행, 사회 복지 사업, 금융, 교육분야에서의 인지 시스템 예를 살펴보겠습니다.

• 의료서비스 : 암 치료에 특별히 최적화 된 AI 도구인 IBM Watson Oncology Advisor는 환자의 전자 의료 기록 수집 및 사례와 연관되는 임상 정보를 찾아내고 다른 유사 환자를 찾기 위한 환자군 세분화 분석을 수행하며, 현 시점의 표준 진료 절차로 받아들여지는 내용이 기술된 문서에 대한 평가를 하며, 최고 의사들로 부터 배운 임상 전문지식을 활용을 통해 가능한 치료 옵션을 고려할수 있도록 합니다. 상관도, 위험도 및 선호도에 따른 순서가 정렬되어 있고, 관련성이 가장 높은 임상 문헌으로 보강된 환경을 통해 여러 가능한 치료 옵션을 고려할 수 있으며,  의사들이 암환자에 대해 증거에 기반한 최선의 치료를 하도록 결정하는데 도음을줍니다. 의료 전문지식의 "민주화"는 잘못된 진단과 치료를 줄이고, 결과를 개선할 수 있으며, 전체 의료 비용을 감소시킬 수 있습니다. 당뇨병 치료에 이 시스템을 적용하기 위한 작업이 진행중이며 이는 다른 많은 만성 질환에 대해  유사한 효과를 가져 올 가능성이 있습니다. 다른 AI 시스템은 현재 유전자와 질병과의 인과 관계를 식별하는 프로세스를 개선할 수 있으며 임상 시험 자격 평가에 도움을 줄 수 있고, 신약 개발 과정을 가속화할 수 있습니다. 그리고 IBM은 현재 AI도구의 영상 검사 및 X 선 결과를 해석영역에의 활용을 진행중에 있습니다.
• 사회 복지 사업 : 대학에서의 왓슨 심화 교과 과정의 일환으로 텍사스 오스틴 대학의 한 팀은 '211'콜센터를 보완할수 있는 사회 복지사업 관련 질의 응답 앱에 대한 제안을 하였습니다. 질문은 “오늘 밤을 지내기 위한 쉼터를 찾을 수 있습니까? " "청구서를 지불하기 위해 도움을 받을 수 있습니까? "등과 같은 것으로부터 "아이를 위한 약을 구매하기 위해 어떤 도움을 받을 수 있나요? " (참조 비디오.)등 입니다. 팀은 유나이티드 웨이와와 제휴하여 졸업후 스타트업 회사를 만들었습니다.
• 교육 : 학생 특히 초기 학습자의 경우에는 참여가 중요합니다 인지시스템은 현재 Element Path에서 만든 CogniToy라 불리는 장난감 공룡에 사용되어 지고 있습니다. 이를 통해 아이들과 상호작용을 해서 아이들의 질문에 답하고 수수께끼와 이야기를 하고 아이와 함계 기초적인 학습 과정을 진행하는데, 이런 것들은 아이마다 고유의 학습 속도와 강도에 따라 맞추어 제공합니다. (동영상 참조). 세서미 스트리트는 학업 성과 향상을 위한 적절한 교육 과정과 교육 자료를 찾기위해 학생들의 다양한 행동 양식을 모니터링하여 학생 및 교사의 교육 경험을 개선하는 인지 시스템의 적용을 탐구 중에 있습니다.
• 금융 : 기본적인 금융 업무와 연관된 질문 처리에 대한 비용을 낮춤으로써, 인지 시스템은 사람들이 재정적인 조언을 구하기 위해 필요한 자산 임계 값을 낮춰 더 많은 사람들이 금융 서비스(Financial inclusion)를 제공받을수 있게 됩니다 금융 자문역은 일상적이고 사소한 정보 수집 업무로부터 자유로워져서 상상컨데, 10배 또는 100배의 고객 연관 업무를 처리할수 있게 될것입니다. 이를 통해  이런 서비스를 제공받지 못했던 사람에게 까지 제공할수 있게 될 것입니다.
• 교통 : 널리 보도 된 바와 같이, AI 시스템은 자율 주행이 가능도록 급속하게 발전하고 있습니다. 이들 자율 운전 차량들은 도로 정체와 그로 인한 오염, 운송비용과 시간 낭비를 급격히 줄이게 될 것입니다. 사람이 운전하는 것 보다 훨씬 안전하게 주행하게 될 것입니다. 또한, 그들은 차량 공유 및 가입 모델 등 다양한 자동차 소유권을 제공하는 새로운 비즈니스 모델을 가능하게 할 것입니다. 즉 자동차가 어느 가입자의 목적지로 이동시켜주면, 그 다음 목적지로 빠르게 이동할 수 있습니다.
• 법 집행 : IBM의 Watson Discovery Advisor는 수사관이 주변의 압도적인 정보 잡음에 비해 징후가 너무 약해서 인식할 수 없는 연관성과 관계를 찾도록 도와줄 수 있습니다. 어떤 경우에는 잠재적인 가해자와 범행의 위치를 거의 예측하기도 합니다.  AI 시스템은 또한 범죄 행위를 연구하는 과학수사대와 분석가들을 지원하고 있으며, 국가 안보와 관련된 일련의 궁금한 사항에 대한 중요한 질문에 답을 구하는데 도움을 주고 있습니다.
• 환경 : AI 시스템은 오염 물질 발생원과 이산화 탄소 배출량(탄소 발자국)을 관리 할 수 있도록 의사 결정자를 지원하여 오염 물질에 대한 정확한 예측을 위한 환경 모델을 구축 할 수 있습니다. 또한  습지 또는 갑작스런 홍수로 부터 도시를 보호하는 숲과 같은 생태계 서비스의 보존에 도움을 줄 수있을 것입니다.
• 사회기반시설 : AI 시스템은 사회기반시설(인프라)의 수요, 공급 및 사용 예측, 사업의 계획 및 실행에 도움을 줄 수 있습니다. 또한 구축된 기반시설에 대한 예측 기반의 유지 보수에 도움을 줄 수 있습니다. 2013 년 맥킨지는 글로벌 기반시설의 적자를 해결하기 위한 법안에서 더 나은 프로젝트 선택, 수행 개선 및 기존 기반시설의 용량의 최대화를 통해 연간 1조 달러를 절약할 수 있는 방안을 확인했습니다. 특히 사물인터넷(IoT)과 연결되었을 때 AI는 이러한 비용 절감에 중요한 역할을 담당하게 될 것이라고 예상하는 것이 합리적입니다.

위로 요약.

B. AI의 사회경제적 의미 (RFI 질문 4)

AI 시스템은 이미 일의 처리방식에 변화를 가져오고 있습니다. 하지만 역사적으로 보면 AI와 같은 새로운 기술들은 높은 생산성, 높은 소득 그리고 전체 일자리를 증가시킨다고 제시하고 있습니다. 특히, 우리는 새로운 기업, 새로운 일자리, 그리고 완전히 새로운 시장이 이러한 기술 기반으로 이루어 질 것이라고 믿습니다. 또한 우리는 AI 시스템은 소외집단으로 하여금 필수 서비스에 대한 접근을 개선 시킬 수 있다고 생각합니다. 전반적으로, 삶의 질에 대한 대폭적인 개선을 기대합니다.

AI의 존재여부는 사람들의 감성 및 의사결정능력(예, 노인 보호)에 중대한 영향을 가져오기 때문에, 이러한 AI 시스템이 사회에 완전히 받아 들여지기 위해서는 중요한 사회적 기능을 해야 합니다. 이와 더불어서 AI 시스템은 인간의 가치에 맞춰서 특정 행동 원칙을 배우고 준수하는 방법을 이해해야 합니다.
AI 시스템은 전세계에 새로운 분야의 일을 만들어내기 시작했습니다. 후손들은 이러한 노동력의 변화로부터 혜택을 누리게 될 것입니다. 즉 사람과 AI시스템간의 제휴를 통해 질병과 가뭄에서 동등한 교육및 의료보장에 이르기까지 세계에서 지속되고 있는 많은 문제를 다루어서 해결하기 위해 나아가고 있기 때문입니다. 또한, 이러한 변화는 소외 집단이 필요로 하는 서비스에 대한 접근성을 개선하여 인류의 삶의 질을 대폭적으로 향상 시킬 것입니다.
그러나, 250년전 산업혁명 이후 대부분의 주요한 기술적인 진보의 경우 처럼, AI는 자동으로 블루칼라 뿐만 아니라 화이트 칼라 노동자들의 직업을 잃게 만들 것이라는 두려움을 일으킵니다. 이러한 두려움은 역사적으로 근거가 없고 잘못된 것이지만 급격한 변화의 기간 동안에 일어날 수 있는 일입니다. 이러한 두려움과 허위사실에 더해서 현재의 거시경제학적 분위기가 혼돈스럽습니다. 정책 입안자뿐만 아니라 단체들은 시민들을 위해서 이러한 과장들을 없애고 허위에서 사실을 구분할 방법을 찾아야 합니다.
경제학자들과 사회과학자들은 대중에게 기술변화로 인한 기업과 사회에 미친 영향에 대한 교육의 핵심 파트너입니다. 시민들과 산업 그리고 조직이 AI시스템으로부터 사회적 경제적 이익을 받을 수 있다는 것을 보장하려면 새로운 기술의 제한 보다는 가속화가 필요합니다. 즉, 모든 중요한 기술 발전의 경우에서처럼 미래세대가 AI 시스템과 함께 구축하고 이해하고 일할 수 있는 교육 프로그램을 준비하는것이 지속적이고 생산적인 인력을 확보하는데 필수적일 것입니다.

일하는 방식의 변화: 우리는 반드시 일하는 방식의 변화에 대해 중요한 대화를 해야하며, 이 대화는 과장되어서는 않되고 현실적이어야 합니다. David Autor(MIT)가 2015 논문:에서 다음과 같이 기고하였습니다. “…저널리스트 그리고 심지어 전문 해설자들도 노동에 대한 기계 대체의 정도를 과장되게 이야기 하는 경향이 있고 기술과 노동의 상호보완적인 관계로 인한 생산성 향상, 인금 인상 노동 수요 증대는 무시하는 경향이 있습니다.” OECD 리포트에 의하면: ”역사적으로 새로운 기술에 의한 임금향상 효과가 일자리 대체효과보다 강력하다고 입증되었습니다다: 기술진보는 더 많은 산출물과 높은 생산성 향상뿐만이 아니라 전반적으로 높은 고용을 가져왔습니다.” 최근의 Economist magazine repoort 역시 같은 결론을 내리고 있습니다.
일하는 방식의 변화의 예는 방사선 전문의에 의해 수행되는 특별한 업무에서 볼 수 있습니다. 언젠가는 AI 시스템이 사람보다 더 효과적으로 이미지를 읽게 될 것입니다. 그러나 방사선 전문의는 이미지를 스캔하는 일보다 더 많은 작업을 수행합니다. 그들은 환자 그리고 다른 의사들과 대화를 하고 의료 기록을 평가하고 화상의 내용에 대해 처방하며, 다른 활동과 결부지어 결과를 해석합니다. 방사선 전문의는 생명을 살리고 환자가 인지시스템을 받아들일 수 있도록 도와주기를 간절히 원하고  있습니다. 이는 인지 시스템은 작업 절차를 개선과 그로 인해 여유 시간을 자신들의 역할인 치료에  대한 다른 관점에 집중함으로써 환자의 생명에 대한 중요한 결정에 도움을 주기 때문입니다.
새로운 관행과 절차: 인지 시스템이 인간의 삶, 일 그리고 의사결정을 변화시킴으로 인해서, 새로운 관행들과 절차들이 생겼습니다. 새로운 관행과 절차는 수많은 일로 구성된 복잡한 시스템 진화가 각 직업군마다 독특하다는 것을 보여줍니다. 맥킨지 글로벌 연구소(McKinsey Global Institute)보고서 에 의하면: “일부 직업들은 가까운 시일 혹은 어느 정도 시간이 지난 후에 완정 자동화 될 것입니다.  더 정확히 말하면, 특정 활동은 보다 더 자동화 될 것이고, 비즈니스 프로세스 변화와 사람들에 수행되는 일들에 대해 재정의를 요구할 것입니다.
인지 컴퓨팅은 직원들의 능력을 대체하는 것이 아니라 향상시키기 위해 사용될 것입니다. IBM 연구 및 솔루션 포트폴리오팀의 수석 부사장 닥터 존 E. 켈리 III의 인지시대에 관한 책(a book on the cognitive era) 에 의하면: “인지 시스템은 컴퓨터 과학자들이 비정형이라고 불리는 데이터의 80%를 의미있게 할 수 있습니다. 이것은 컴퓨터 과학자로 하여금 현대사회에서 발생하는 정보와 시스템의 볼륨, 복잡성 그리고 불확실성과 같은 속도를 유지할 수 있게 해 줄 것입니다. 위에서 언급한 어떤것도 기계의 부분에 지각이나 자동화를 수반하지 않을 것입니다. 더 정확히 말하면, 그것은 우리의 복잡한 사회를 이해하고 이런 사회에 의거하여 행동하는 사람의 능력을 확장하는 것으로 구성되어 있습니다. 이러한 확장된 지능은 지식 추구를 통한 기술 활용, 전문성을 증진 및 인간의 조건을 개선을 위해 반드시 필요로 하는 단계이다.

혜택의 가속화: 사람 산업 그리고 사회가 인지 컴퓨팅으로 인해 사회적 그리고 경제적 이득을 받을 수 있도록 보장하는 것은 새로운 기술의 제한보다는 가속화를 요구할 것입니다. 우리는 정책 입안자로 하여금 아래의 내용을 가능하게 하는 프로그램의 발전에 집중할 것을 요청합니다.:

• 현실적이고 사실에 기초한 기술 및 기능에 대한  이해
• 새로이 부각되는 작업/ 직업을 포함하여 노동력 변화에 관한 최첨단 연구
• 새로운 세대가 기계와 함께 새로운 협력관계를 활용하기 위한 점진적인 교육프로그램 준비

위로 요약

C. AI 기술활용을 위한 교육 (RFI 질문 7)

공공 및 민간용 AI 솔루션에 대한 잠재력은 AI 기술에 대한 빠른 수요 증가를 만들었습니다. 이러한 요구를 충족시키기 위해 일류 대학들은 새로운 AI 교육 과정을 만들고 있습니다. 선도 기업은 이미지  인식에서 기계 학습에 이르는 인공 지능 기반 서비스를 갖춘 클라우드 플랫폼을 교수진과 학생들이   사용할 수 있도록 제공합니다. 그러나 대부분의 과정과 플랫폼은 프로그래밍 기술과 고급 수학능력과 같은 전제 조건을 요구합니다. 정부 기관, 연구 기관, 대학, 그리고 재단은 공동작업을 통해서 자신의  경력을 재편성 하려는 보다 많은 학생 및 교수들이 쉽게 접근할 수 있는 AI 시스템의 구축, 이해 및   협업에 관련된 작업을 할 수 있습니다.
능력 개발을 위한 온라인 교육과정과 경쟁: 교수, 학생들 그리고 산업 전문가들은 자신들이 가지고 있는 기술들을 재정비하고 있습니다. AI와 인지 시스템 관련 온라인 과정 목록은 수집해왔으며 계속 증가하고 있습니다. 일류 대학들은 그들의 AI 코스들에 대한 수강 기록을 보고합니다. Udacity, Coursera, 혹은 EdXor, 다른 온라인 과정 기관들과의 파트너십을 통해서 강의를 모교의 학생들에게만 제공하는 것이  아니라 배우고자하는 전세계의 학생들에게 제공합니다. 단기적(5년)으로 업계에서는 일류 AI교수진과  학생들을 위해 치열하게 경쟁할 것입니다. 기업들이 무인자동차 혹은 딥 러닝(Deep Learning)과 같은  분야에서 학문적으로 뛰어난 인재를 고용한다는 뉴스들을 접할 수 있습니다. 장기적(10년)으로 데이타는 소프트웨어를 잠식할것입니다. – 즉 특정 AI 알고리즘에 대해서 알고 있는 학생 혹은 교수들에 집중하기 보다는 특정 데이터 집합과 의사 결정 경험에 명성이 있는 교수들에게 집중할 것입니다. 시간이 지나면서, 알고리즘은 더욱 성숙해져서 산업에서 사용할 수 있는 응용프로그램에도 충분히 잘 사용 될 수 있을 것입니다. 데이터 집합과 전문지식은 점점 더 산업이 경쟁 우위를 점할 수 있는  분야가 될 것입니다. 많은 데이터와 소프트웨어를 가진 일부 기업은 기술을 개발하기 위한 중요한 알고리즘을 개방할 것입니다. 종합하면, 학습자들은 Udacity, Coursera, 또는 EdXor와 같은 다양한 온라인 인공지능 관련 교육과정에 접근 할 수 있습니다. 이에 더해서, 교수 학생들을 포함한 무인자동차 와 딥 러닝(Deep Learning) 전문인력 전쟁에 대한 이야기들이 해드라인을 장식하고 있습니다.

산업 플렛폼: 산업은 교수, 학생, 사업가 그리고 개발자들에게 능력 개발과 스타트업 회사들이 사용할 수 있는 인지 서비스 클라우드 플렛폼을 제공하기 위해 경쟁하고 있습니다. 이러한 인지 솔루션을 위한 클라우드 플랫폼은 21세기를 위한 공장입니다. – 직원들과 고객들은 개인, 비즈니스, 그리고 사회의 문제를 해결하는 동안 가치를 공동 창출하는 플랫폼의 가치를 보여주기 위해서 경쟁할 것입니다. 지역 경제 개발 단체와 대학들은 AI가 더욱 강화된 스타트업을 출벌시키기위해 사업가 기질을 가진 학생들을 개발하는데 커다란 관심을 가지고 있습니다. 많은 경우에 있어서, 대학에서의 학문은 직업과 바로 연결되고 교수와 학생들의 전문지식은 모든 직종의 근로자가 사용할 인지 도구와 보조 장치를 만들려는 스타트업회사들에게 직접적으로 유용할 수 있습니다. (O*NET online.참조)

컴퓨터 비전공자와 다양한 학문적 접근 : 학생들에게 AI 시스템을 만들어보고 이해하고 협업을 할 수  있도록 도와주는 보다 포괄적인 강의가 필요합니다. 우수한 기술의 온라인 AI 강의 덕분에 컴퓨터 과학, 프로그램 기술 그리고 고급 수학을 수학하는 학색들을 위한 입문 교육 과정에 대한 접근이 어렵지 않습니다. 하지만, 비전공자들을 위한 교육, 컴퓨터 과학과 인공지능의 융합, 인지 과학과 AI 및 인지적 구조, 그리고 신경 과학, 사회적으로 의미있는 일에 대한 기계 학습(Machine Learning) 알고리즘 테스트용으로 공개된 데이터 집합, 학습자가 자신의 메일을 처리하고 다른 인지 중재자와 소통을 하는 AI 중재 시스템을 만들 수 있도록 도와줄 수 있는 공개 툴킷, 새로운 어플리케이션을 위해 최고의 AI 컴포넌트를 결합하기 위한 오픈 비즈니스와 경제 모델과의 융합에 관련된 교육은 부족합니다. 미래세대를 위한   대학 교육과정은 연구자, 기업가, 실무자, 그리고 일반인을 위한 4가지 트랙을 갖춰야 합니다. 구축, 이해, 그리고 인지 시스템과의 혐업은 중요하고, 누구나 접속할 수 있어야 합니다. 리더십, 혁신, 관리를 위한 새로운 기술 및 사고방식의 유형에 대한 관심이 점점 증가하고 있습니다.
기관 협력 및 프로젝트 초점: 조직들은 모든 직업에 있어서의 인지 보조기구 개발을 위한 플랫폼에   대헤서 협업 할 수 있습니다. O*NET (the online occupation database network : 온라인 직업 데이터베이스 네트워크)은 미국 노동부에 의해 설립되었고, 현재 경제의 전반적인 부분에서 직업 속성의 변화를  보여주는 개방된 데이터 집합입니다. 회계사에서 동물학자에 이르기까지, 경영, 과학, 공학, 법률, 의료 및 예술에 걸친 모든 학문들이 미국경제를 이루는 직업에 관한 이 목록에 표현되고 있습니다. 빅데이터를 통해  사람들이 더 많을 것을 할 수 있도록 도와주는 AI 시스템은 사실상 모든 직종에서의 인지적인  지원을 위해 사람중심의 시스템으로 재설계 하는 접근 방식입니다. 이러한 시스템 재설계는 다양한 직업군에 속한 사람들 사이의 상호작용에 대한 이해를 필요로 하며 인지적인 지원은 단순히 그 직업에서의 작업이 아니라 직업간, 종업원과 고객간 상호작용으로 인한 창의성과 생산성을 개선시킬 수 있는  역할을 할 수 있습니다. 한 예로, IBM은 인지 시대의 업무변화에 있어서 직원간의 협업을 그리는 Cognitive Build (코그너티브 빌드)란 이니셔티브를 시범적으로 진행하였습니다. 데이타가 가장 풍부하고 귀중한 자연자원이 됨으로서 데이타에 내재된 통찰력을 찾아내는 것이 모든 지식 근로자의 역할이    되었습니다. 전문 협회들은 이런 중요한 사안에 대해 산업간 경쟁자들이 대학 그리고 정부와 협력할 수 있도록 도와주는 역할을 할 수 있습니다.
종합하면, 새로운 기술에 대한 수요를 충족하기 위해서 온라인 AI과정이 많은 일류 대학에서 제공 되고 있습니다. 추가적으로, 선도 기업들은 이미지 인식에서 머신 러닝에 이르는 다양한 AI 사비스를 포함하는 클라우드 플랫폼을 교수와 학생들에게 제공합니다. 하지만 대부분에 강의들과 플랫폼은 컴퓨터 과학, 프로그래밍 기술 혹은 고급 수학능력을 선행조건으로 요구합니다. 또한, 이용가능한 데이터 집합은    다양한 배경을 가지고 있는 학생들과 전문직 종사자들이 적극적으로 참여하게 만들기에는 충분하지 않습니다. 진정으로 다양한 학문, 분야, 그리고 문화적 접근은 아직 초기단계에 불가합니다. 정부 기관,   연구 기관, 대학, 그리고 재단들은 함께 협력하여 모든 직업과 사회적 역할을 위한 인지 시스템 개발에 집중해서 학습의 기회를 보다 쉽게 만들 수 있습니다. 프로젝트들은 사람들이 폭발적인 정보를       처리하는 인지시스템을 만들고 이해하고 함께 일하는 법을 배우는 것을 도와줄 수 있도록 조정되어야 합니다. 조직들은 직원들과 고객으로 하여금 인지시대에 자신의 역할과 가치있는 공동창작을 위한    상호작용을 재구상할 수 있게 해야합니다.
위로 요약

D. AI 연구관련 근본적 질의사항, 가장 중요한 연구 차이 (RFI 질문 5와 6)

2016 년 7 월 28 일 최종 수정
AI 시스템이 개인과, 직무에 있어 삶의 질을 향상시키기 위해서는 여러 영역으로부터 넓고 깊은 지식을 획득하고, 사람과 환경에 지속적으로 상호작용 하면서 배우며, 추론을 통한 결정을 지원할 수 있어야 합니다. 넓은 의미에서 AI 분야의 장기적인 지속력은 다음과 같은 여러 분야의 발전에 의존합니다.

AI 시스템이 사람들의 삶에서 널리 알려짐에 따라 개인적이고 전문적인 직무에 있어서의 목적을 제공함에 있어서 AI 시스템이 할수 없거나 더 잘해야만 하는 것들이 여전히 많습니다. AI 시스템이 사람들의 개인적, 전문적인 삶의 질을 개선하기 위해서는 여러 분야에 있어 넓고 깊은 지식을 획득해야 하며, 사람과 환경간의 상호작용으로부터 지속적으로 배우고 추론화된 결정을 지원해야만 합니다. 이러한 부족함을 해결하기 위해 주요한 연구 노력들이 이루어져야 합니다. 특히 자율학습(unsupervised learning)능력이 있어야만 AI 시스템이 상식적인 추론을 할 수 있으며, 데이터에 있어서의 편향성과 특수성을 피하기 위한 방법이 개발되어야 합니다. AI 알고리즘은 투명하고 이해할 수 있어야 하며 자연스러운 방식으로 인간과 상호작용할 수 있어야만 합니다. 기계의 목표는 가치의 정렬과 윤리적인 원칙을 확실히 해야하며, 기계는 사회가 중요시하는 능력을 갖추어야 합니다. 이 모든 것들은 AI 연구자들에 의해서만 이루어질 수 없으며, 여러 학문 분야의 전문가로 구성된 팀에 의해 성취될 수 있습니다.
AI 분야의 장기적인 발달은 다음과 같은 여러 분야의 발전에 의존합니다.
기계 학습과 추론:
대부분의 현재 AI 시스템은 교육을 위해 분류된 광범위한 데이터를 사용하는 지도학습(supervised learning)을 활용하고 있습니다. 이것은 인간이 배우는 방식과 다릅니다. 우리는 매우 적은 데이터로 배우지만 세계를 관찰하고 어떻게 운영되고 있는지에 대한 모델을 우리 마음속에 만듭니다. 이것은 내부적인 개념과 그것들간의 관계를 만들고, 우리가 상식적인 추론을 할수 있게 하며, 아주 많은 데이터가 없더라도 배울수 있는 능력을 가질 수 있게 합니다. 학습은 지시와 상호작용(토의, 토론, 다른 사람의 학습 관찰)을 통해서 또는 실제 행동 (운동 기술 활용)을 통하거나, 아주 적은 자료로부터 일반화하고, 여러 작업 전반에 대한 기술 적용을 함으로써 이루어져야 합니다. 우리가 현재 AI 시스템을 확대하고 향상시키기 위해서는 연구원들이 시스템을 더 적게 분류된 예제로부터 배울 수 있는 방법을 찾아야 합니다. 인간이 배우는 방식을 모방한 자율학습(unsupervised learning) 접근방법은 깊이 있게 탐구되어야 합니다. 또한 전이 학습(transfer learning)이나 역강화 학습(inverse reinforcement learning)이 이런 면에서 유용할 수 있습니다. 이를 통해 다른 영역의 개념을 전달하거나 세계를 관찰함으로써 학습 능력을 제공할 수 있기 때문입니다. 기계들이 상식적인 추론 능력을 갖도록 하는 이러한 것들과 다른 방법들이 조사되어야 합니다. Winograd 스키마 시험이나 과학 테스트들과 같은 기존의 것들 외에 발달 상황을 측정할 수 있는 추가 테스트들을 고안하고 개발해야 합니다.

결정 기술:
AI 기반 기술이 널리 성공하기 위해서는 시스템 위험을 모델화하고, 거래를 분석하고, 문맥상 비정상적인 부분을 감지하고, 사생활을 보호하면서 데이터를 분석하며, 불확실성 내에서 결정을 내리는 새로운 기술이 개발되어야만 합니다.
특화된 분야의 AI 시스템:
제약, 공학, 법률 및 인류가 전문성을 가진 수많은 분야를 깊게 이해함에 있어 지식 획득, 표현, 추론에 특히 어려운 문제를 제시하고 있습니다. AI 시스템은 모순적인 부분을 관리하고, 실험을 설계하고, 협상하는 것과 같은 궁극적으로 전문적인 수준의 작업을 수행해야 합니다. 이것은 단지 기존의 AI 연구 결과와 도구를 특정 응용 분야에 적용하는 것을 넘어서 다른 학문과 협력하여 특정 영역에 맟춘 혁신적인 AI의 기초 연구를 개발하는 것입니다.
자료 확실성과 신뢰:
언급한 것처럼 기계 학습 시스템의 본질적인 기능은 거대한 양의 데이터를 필요로 합니다. 세상에는 이미지, 비디오, 텍스트와 같은 데이터가 절대로 부족하지 않습니다. 하지만 우리는 어떤 데이터가 AI 시스템에 제공되어야 하는지 주의해야 합니다. AI 시스템의 행위는 데이터의 품질에 의존하기 때문입니다. 컴퓨터에 대한 오래된 격언 “garbage in, garbage out 쓰레기가 들어오면  쓰레기가 나옴”은 AI와 아주 관련있습니다. 교육과 테스트 데이터는 편협적이고 불완전하거나, 악의적으로 조정될 수 있습니다. 그럴 경우, 학습 시스템이 아주 명확한 경우에만 정확성이 있게 되며, 테스트 데이터를 넘어서는 실생활의 상황에서는 맞지않을 수 있습니다. 무엇보다, 비싸며 시간이 오래 걸립니다. 안좋을 경우, AI가 주요 안전 시스템에 사용되며, 이는 잠재적으로 위험할 수 있습니다. 학습 시스템을 훈련시키고 시험하는 것은 물론, 자료 집합의 불확실성 측정 및 더 객관적이고 탄력적이고 정확한 AI 시스템을 만들기 위한 기술 개발에 사용된 데이터의 품질, 완성도, 적절성을 확인하기 위한 방법 연구에 중요한 자원과 지원이 이루어져야 합니다. 또한 AI 시스템이 덜 편향적이면서 더 객관적이고 일반화하기 위한 중요한 단계로서 데이터 처리를 자동화하고 학습 시스템을 향상시키기 위한 작업이 중요하게 고려되어야 합니다.
급변하는 효율적인 컴퓨터 기반시설:
규모에 맞게 배치될 경우, AI 시스템은 유례없는 작업량을 처리해야할 것이며, 여기에는 신경회로적(neuromorphic)이고 근사값 컴퓨팅(approximate computing)과 같은 새로운 컴퓨터 구조와 퀀텀과 새로운 종류의 메모리 기기들의 개발이 필요합니다.

이해와 설명:
AI 시스템은 결정하거나 결정을 제안하면서 사람과 함께 기능하거나 작업할 것입니다. 인간이 AI의 제안을 따르려면, 기계를 신뢰해야 합니다. 사람들은 시스템이 사용자의 의도와 우선순위를 알고 추론을 설명하며, 실수로부터 학습하고 독립적으로 증명될 수 있을 때, AI 시스템을 신뢰할 수 있습니다. 이런 능력은 예를 들면 학생이 조언과 지도를 필요로 하는 학습 시스템에 있어서와 같이 많은 사업분야와 직무에 도움이 필요한 전문가들에게 큰 도움을 줄 것입니다. 이 분야에 도움을 줄 수 있는 기능은 해석, 투명성 및 설명을 위한 알고리즘입니다. AI 시스템은 왜 그것이 특정 결정을 지지하고 다른 것들을 지지하지 않는지 설명할 수 있어야 합니다. 그리고 해석과 책임을 허용할 만큼 투명해야만 합니다. 기계 학습 접근은 이런 측면에서 불투명하기 때문에 특히 AI의 신경망 변이 관점으로 보면 다소 이해하기 어렵습니다. 학습할 수 없는 논리 기반의 기능과 연구원이 학습 시스템의 행태를 충실하게 반영하는지를 확인하기 위한 방법을 찾는다면 근거를 제공할 수 있는 딥러닝(Deep Learning) 접근방법을 더함으로써 불투명한 부분은 적어야 합니다. 설명은 자연어와 같이 인간이 이해할 수 있는 기호를 사용해야 하며, 시스템과 함께 일하는 특정 목표를 가진 사용자(사용자, 개발자, 연구원 등)에게 맞춰질 수 있어야 합니다.
가치 정렬과 윤리:
종종 AI 시스템은 인간이 올바른 목표를 설정하지 않았기 때문에 의도하거나 기대하지 않은 행태를 보입니다. 우리가 보통 하는 잘못은 사람에게 목표를 설정할 때는 필요가 없는 아주 중요한 세부사항을 누락하는 것입니다. 하지만 인간은 세상이 어떻게 작동하는지에 대한 상식을 공유하는 반면, 기계는 우리가 제공하지 않으면 알 수 없습니다. 그래서 우리가 기계에게 기본 지식을 어떻게 제공해야 하는지, 또는 기계가 세상을 관찰하여 그런 지식을 어떻게 얻을 수 있는지 이해하는 것이 중요합니다. 또한 기계가 인간이 따르는 도덕적이고 윤리적인 가치를 제공받는 것이 중요합니다. 이것은 문화, 사회, 작업, 전문 분야에 따라 다양할 수 있습니다. 예를 들면, 의사가 환자에게 최상의 치료법을 선택하도록 돕는 AI 시스템은 의사와 같은 윤리적인 규제를 따라야 합니다. 배우고, 지정하고, 지정된 윤리적인 원칙에 따르는 방법을 이해하는 작업이 가치 정렬을 이루고 목적을 맞게 구분하고 AI 시스템 행태가 의도하지 않았거나 원하지 않는 결과를 허용하지 않도록 하기 위해 필요합니다. AI와 윤리 영역에 있어, 다국적 및 다문화적인 노력이 필요합니다.
소셜 AI:
AI 시스템은 고립된 상황에서 작용하지 않습니다. 그들은 전문적이고 개인적인 삶에 있어서 인간과 긴밀하게 연결되어 있습니다. 그래서 AI 시스템은 우리의 삶에서 그들의 존재는 감정과 의사 결정 능력에 깊은 영향을 주기때문에 주요한 사회적인 능력을 가져야 할 것입니다. 예를 들어, 노인 복지를 위한 반려 로봇은 원하는 목적(노인의 약 복용과 같은)을 최적으로 달성하기 위해 노인과 어울릴 수 있는 방법을 알아야만 합니다. 이 목적을 위해 인간과 기계사이의 자연적인 상호작용과 대화를 허용할 수 있도록 섬세한 자연어 능력이 필요합니다.
위로 요약 .

E. AI 연구를 가속시킬 수 있는 데이터 집합 (RFI 질문 9)

2016 년 7 월 28 일 최종 수정
AI 시스템을 개발하고 검증시 주요 벙목현상은 충분히 크고 개방적으로 관리되는 공용의 학습 데이터 집합에 대한 공공의 접근입니다. 지시받거나 자율적으로 하는 기계 학습에는 정확한 유형을 훈련하기 위한 방대하고, 편향되지 않은 데이터를 필요로 합니다. 딥러닝(Deep Learning)은 연설문, 언어 번역, 이미지 자막과 질의 응답 능력을 넘어서고 있습니다. 비디오 인식과 같은 각 새로운 AI의 발전은 새로운 데이터의 생성을 필요로 합니다. 암 방사선학, 보험 조정과 같은 깊이 있는 영역의 작업은 특화되고 얻기 어려운 데이터 집합을 필요로 합니다. 미리 만들어 놓은 모델(model zoo)과 같이 자료 입력과 교육된 모델을 더 많이 공유하기 위한 장려책이 마련되어야 합니다.
광범위한 자료의 공개 전시와 공유는 인지 시스템의 개발과 검증에 필수적입니다. 점차 기계 학습(machine learning)은 지도 및 자율기법을 사용하여 모델을 교육하는데 의존하고 있습니다. 딥러닝(deep learning)을 사용함에 있어 커다란 발전이 이루어졌으며, 특히 개방된 자료와 함께 훈련된 모델은 연설문, 언어 번역, 이미지 인식, 그리고 질의응답 분야에서 커다란 발전을 보여주고 있습니다.
예시: 개방된 훈련 데이터가 이 분야를 향상시키는데 필수적이라는 것은 ImageNet(14M 이미지, 22K 제목 카테고리)처럼  주목할만한 사례들이 있습니다. Visual Genome, MegaFace, YouTube 8M와 같은 노력을 통해서 지속적으로 가치있는 데이터를 생성하고 있습니다. 하지만, 인지 시스템이 지속적으로 더 발전하는데 있어서의 병목현상은 충분히 크고 개방적으로 양성되는 공용 학습 데이터에 대한 공공의 접근에 있습니다.
우리가 쉽게 예견할 수 있는 부분은 2000년대 초반의 e비지니스와 전자 산업 데이터 표준을 개발하기 위해 사용되었던 RosettaNet과 같은 많은 기구들과 마찬가지로 무역 기구나 산업 협회가 그들이 대변하는 산업을 위해 개방된 “최상의” 데이터 집합을 생성하고 싶어 한다는 것입니다.
편견과 왜곡 배제: 자료 집합이 개방적이고 투명하게 개발되어야 하는 머신러닝(machine learning)을 기반으로 한 시스템은 매우 복잡합니다. 가끔 편견이 포함되어 있으며 학습중에 심각해지기도 합니다. 예를 들어 인종에 대한 편견은 주로 사용된 안면 인식 데이터 집합에서 나타납니다. 어느 극명한 사례로 한 대형 기업의 사진 분류 서비스에서 특정 인종을 동물로 분류하는 잘못되고 무분별한 경우가 확인되었습니다. 교육 데이터 집합에 있어 차이점이나 편견을 발견하지 못함으로써, 그러한 인지 시스템은 맹점을 가지게 되며, 매우 심각한 결과를 가져올 수 있습니다.
모델 공유: 대규모의 데이터 집합을 개방적으로 가공할 뿐만 아니라, 훈련된 모델을 개방적으로 공유하는데에는 커다란 장점이 있습니다. 훈련 데이터 양이 증가함에 따라 인지 시스템을 교육하는데 필요한 계산이 급격히 증가했습니다. 방대한 비디오 데이터 집합에서 동작을 확인하기 위한 하나의 차별화된 모델을 학습하는데에는 몇개월이 걸릴지도 모릅니다. Caffe Model Zoo와 같은 메커니즘을 통한 훈련된 모델을 더 많이 공유함으로써, 연구원들에게 장벽을 낮추어 주며, 해당 공동체로부터 더 많은 참여를 통해 그 분야를 발전시킬 수 있습니다.
위로 요약

F. 융합학문적 연구 (RFI 질문 8) 

 2016 년 7 월 28 일 최종 수정
D 연구영역 대부분은 AI 연구원만으로 달성하기 어렵습니다. 심리학, 철학, 사회학, 예술, 규범, 법학과 같은 다양한 영역의 전문가들간 협업이 반드시 필요합니다. 추가적으로 산업 특화된 지식을 가지고있는 전문가 집단은 AI 어플리케이션을 알려야 하는 중요한 역할이 있습니다.
이를 위하여, IBM은 조속한 과학 생태계 조성을 목적으로 다수의 교육센터들과의 연결망을 구성하는 과정에 있습니다.

모든 학문 및 업무영역에서 개인적 및 전문적 의사결정을 지원하는 AI 시스템의 구현은 필수적으로 다수의 분야가 관계되어 있습니다. 정보 자체를 확보하는 것 만으로는 의사결정을 할 수 없습니다.      대부분의 의사결정은 선호도 및 다른 관련 지식(예, 개인적 경험에서의 가족 구성원,  그동안의 직업들)과 관계되어 작용되고 있기 때문입니다. 전문직 협회에서는 사회 초임자에게 전문가로서의 경력을 만들어가는 데 도움이 되는 지능형 학습 시스템을 포함하여, 지식과 인증의 관련체계들을 개발 수 있습니다.

학생 및 교육학과: 인문, 예술에서부터 과학, 공학에 이르는 연구 담당자 지원을 위한 AI 시스템 구현은 다수 학문의 전문가들의 참여가 요구됩니다. 각 학문은 지식과 인증 기준의 관련체계들을 가지고 있습니다. 진로 초기 단계의 직업에 대한 훈련에서 이후 직업으로 이동하려는 학생들에게  다른 경력으로 전환하는 것을 도와주기 위한 인지 시스템 개발에 AI 연구원은 교육자, 연구자 및 기업가와 함께 작업하는 것이 필요합니다.  .

전문가 및 전문직종: 회계에서 x-ray 종사자까지 모든 직종의 직원들을 지원하기 위한 AI 시스템의 구현은 각 직업영역 전문가들의 참여가 반드시 필요합니다. O*NET은 약 1,000여개의 직무 데이터베이스를 온라인화 하였으며, 전문지식을 확장하고 직원들의 생산성과 창의성 증진을 위해 전문가들에게 인지적 보조업무 서비스를 할 수 있는 AI 시스템을 구현하기 위한 정보원입니다. 각 직종은 지식과 인증 기준의 관련 체계들을 가지고 있다.

전문직 협회를 위한 데이터 세트: AI 시스템은 전문직 협회 회원들의 경력개발을 도와줄 수 있습니다.  학계 및 산업에서 전문직 협회가 종종 지식 체계 및 숙련도 인증에 대한 데이터 세트를 보유하고 있습니다. 점차적으로 전문가들은 알려진 해결책이 없는 문제의 해결을 위하여 여러 전문분야에 걸친 프로젝트 팀에서 일해야만 합니다. 이들 프로젝트에서 얻는 실무경험은 초보자에서 전문가로 가는데 반드시 거쳐야 합니다. 초보자에서 전문가가 되는데 일반적으로 10,000시간의 실무경험 이는 약 4년간의 작업 또는 2백만 분에 걸친 경험에 해당합니다. 때때로 초보에서 전문가까지 이르는 연구는 체스 그리고   다른 게임 또는 악기 연주 처럼, 인지 또는 육체적 활동영역에 종사하는 사람들과 관련되며 협업이나 여러 전문분야에 걸친 활동은 포함되지 않습니다. 협업 전문가, 엔지니어, 관리자, 사회 행동 과학자, 법, 회계, 커뮤니케이션 종사자 등에 대한 신참대 전문가 연구의 발전은 T형 전문가를 이해하는데 도움이 될 것입니다. 깊이와 폭을 함께가지고 있는 T형 전문가는 깊이만 가진 I형 전문가보다 좀더 유연하며  팀워크에서 뛰어납니다.

위로 요약

G. 인센티브 및 포상의 역할 (RFI 질문 10)

2016 년 7 월 28 일 최종 수정
AI의 기본 구성요소가 개선됨에 따라 차세대 사람 중심의 시스템 설계를 고무하는 인센티브도 개선되어야 합니다. 예를 들어  IBM은 세계의 거대한 과제를 해결하고자 여러 팀 들에게  AI 시스템을 최적으로 사용하기 위해  500만 달러에 해당하는 AI XPrize 를 설립하였습니다. IBM은 AI 연구 단체에 대해 추가적인 과학적 과제를 개발하고 있습니다.

포상과 다른 인센티브에 의해 진행되었던 다년간의 기술 경쟁은 새로운 기술을 신속하게 채택하기위한 시장 형성뿐만 아니라 혁신적인 노력에 집중할 수 있는 효율적인 수단임을 입증해왔습니다.  
AI가 교육, 의료서비스, 실업, 지속적인 경제 성장과 같은 사회적으로 가장 어려운 많은 과제에 대해   혁신적인 진전과 폭넓게 적용할 수 있다는 것을 약속할 수 있습니다. 정부는 특별히 이러한 과제들을 목표로 하는 대회를 더 많이 후원해야 합니다.

기술 경쟁 : 정부가 후원하는 포상위주의 대회는 혁신을 위한 동기부여 특히 대규모의 경제적,  사회적 변화를 억제하는 기술 장벽을 정복하는데 오래동안 성공적인 역사를 가지고 있습니다. 최초의 그와 같은 경쟁, "바다에서 경도를 발견한 사람에게 공공 보상을 해주기 위한 법(An Act for Providing a Publick Reward for Such person or Persons as Shall Discover the Longitude at Sea)”이 1714년 영국 의회에 의해 인증되어 항해 기술 즉 경도를 측정하기 위한 신뢰할 수있는 수단의 발견을 촉진하였고 해상무역 및  탐험을 혁신적으로 진행하게 되었습니다. 최근에 2004, 2005, 2007 년에 진행된 DARPA 챌린지는      자율 자동차 개발에 대한 국가 차원의 혁신에 초점을 두었습니다. 이로 인해 많은 반 자율 및        완전 자율 주행 기능이 다양한 상업용 차량에 포함되었습니다. 2012년에 시작된 DARPA 로봇 챌린지는 현재 인간에게 너무 위험한 환경에서 긴급 구조 활동에 실질적으로 적용할 수 있는 로봇 기술의 혁신을 주도하고 있습니다. 상업 부문에서 XPRIZE같은 조직이 이질적인 분야 즉 상업적인 우주 여행에서 깨끗한 물의 가용성을 위한 돌파구를 찾기 위한 글로벌 능력에 이르기까지 혁신을 이끌기 위해 포상위주의 대회를 성공적으로 진행하였습니다 버트 루탄의 스페이스십원( Burt Rutan’s SpaceShipOne)이 최초로 상업적으로 재사용이 가능한 우주선이었음을 입증한 것은 Ansari XPRIZE에서 8년 동안 치열한 경쟁을 거쳐 이루어 진 것입니다. 이러한 과정을 통해 경제적으로 성공적이고 착수, 제어, 재진입, 복구 및 재사용 할 수 있는 혁신적이며 뛰어난 여러가지 기술을 보유한 규모가 큰 상업적인 우주 여행 사업이 탄생하게 되었습니다. 금년에는 IBM과 XPRIZE가 인지 컴퓨팅의 돌파구를 만들기 위해 IBM 왓슨 AI XPRIZE을 발표하였습니다.

성공적인 도전에 대한 기준 : 위에서 나타낸 바와 같이, 여러 해 동안 포상 중심의 경쟁형식은  국가와 전 세계에 걸쳐 연구 개발 활동에 초점을 맞추는 것에 효과적 일 수 있습니다. 이러한 과제를   작성하고 실행이 성공하기 위해서는 몇 가지 주요 요인들이 있습니다. 최고 수준을  뛰어넘는 도전을 선택하고 중점을 둔 활동과 혁신을 5~8년 이내에 달성하는 것은 매우 중요합니다. 오래 걸리는 모든 도전은 연구 집단 또는 시장의 관심을 유지하기 어렵습니다. 우리는 "대담하지만 달성할 수 있는" XPRIZE의 기준을 선호합니다. 상금으로 경쟁자들을 유도하는 것이 중요하지만, 최종 우승자가 실제 상금보다 훨씬 많은 종종 상금의 10 ~ 50배에 해당하는 효력(leverage)을 시장에서 얻을 것입니다. 이 효력은 다른 장점중에서 경쟁에서의 승리 소식, 시장에서 승자로서의 리더쉽, 대형 정부 계약 고려시 선호도와 같은 시장 형성에 따른 보상에 의해 실현될 수 있습니다. 그러나 경쟁을 위한 가장 중요한 성공 요인은 매우 간단합니다.: 경쟁이 있어야 한다는 것입니다. 도전을 선택하게되면 신중하게 잠재적인 경쟁 집단, 동기 및 지구력 뿐만아니라 도전이 달성되었을 경우 승자를 위한 시장의 적절한 시점을 고려해야 합니다. 이것은 완성하는데 소요될 몇 년동안 경쟁을 후원 및 운영 할 수 있는 후원 조직에 대해서도 마찬가지 입니다. 이는 정부의 후원자가 여러 선거 및 행정부를 거치더라도  이러한 경쟁을 운영하기 위해 전면에서 충분히 지원되어야 한다는 것을 의미합니다.

위의 기준은 과학 분야에서 도전을 위해 사용될 수 있습니다. 그러면 AI 도전과의 차이점은 무엇입니까? 우선 원래 튜링테스트(Turing Test)의 다양한 버전에서 일반 비디오 게임놀이  (General Video Game Playing)와 심지어 올림픽 10종 경기에서 영감을 받은 여러 이벤트에 이르기까지 이미 진행중인 다양한 AI대회가 있습니다. 이들 대회는, 자신의 도전 영역, 참여 정도, 단기 성과 가능성 및 장려정책의 수준면에서 광범위하게 다양합니다. 정부가 AI 챌린지 대회를 만들려고 하면 관심과 참여를 이끌어내기 위해 이미 존재하는 많은 대회와 경쟁해야합니다. 이 상황에서 실제 정부의 기회는  공공 및 연구 집단 모두의 상상력을 확보하는 대회를 후원하는 것입니다. 도전을 위한 주제를 선택하는 것은 주요 고려 사항이 되었습니다. 우리는 AI의 특정 장벽을 극복한다면 유아 교육, 기술 훈련,  기술 보강, 제조, 의료, 과학적 발견과 다른 분야에서의 가능한 변혁을 이번 제출에서 이미 논의해왔습니다. 우리는 여러 도전이 이러한 기회의 범위내에서 후원되어져야 한다고 생각하며, IBM은 그러한 것들을 촉진하고 참여하기를 기대합니다.

위로 요약 .

H. AI에 대한 안전성 및 통제 이슈 (RFI 질문 3)

인공지능을 통해 사회적인 혜택을 누리기 위해서 먼저 인공지능을 신뢰(Trust)할 필요가 있습니다. 그 신뢰는 우선 경험을 통해 얻게됩니다. 마치 우리가 ATM 기기에 돈을 입금하면 통장에 돈이 들어갈 것이라고 믿는다던가 브레이크를 밟으면 자동차가 멈출 것이라고 경험을 통해 배우는 것과 같습니다. 간단히 얘기해서 우리는 우리가 기대하고 예상하는대로 행동하는 것들을 신뢰합니다. 하지만 신뢰를 위해서단순히 경험 뿐만이 아니라 AI의 안전 및 윤리 경영을 가이드해줄 수 있는 어떤 모범적인 시스템이   함께 동반되어야 합니다. 그 시스템에는 사회적 규범 및 가치를 따르는 것, 알고리즘 상의 책임 그리고 프라이버시 및 개인 정보의 보호 등이  포함됩니다. 현재 IBM은 사업 파트너들, 대학 연구실, 심지어 경쟁사들과 함께 협업하여 그러한 시스템을 개발 중에 있습니다.
AI의 성공에 따른 두려움은 사실 다소 과장되었다고 볼 수 있습니다. 산업 및 학계에서 이미 입증한 현실적이면서도 극적인 최근의 성공 사례들에도 불구하고, 오늘날의 그러한 시스템들은 조금은 간과되는 것 같습니다. 실제로 컴퓨터 과학은 시스템이 보다 더 자율적이게 되고 어쩌면 알고리즘적으로 완전히 자기 인식을 갖게될 미래을 위해 여러 종류의 아키텍쳐 및 알고리즘 측면에서의 안전 장치를 제공하고 있습니다.
안전 장치(Safe guards): IBM 내,외부의 여러 동료들과 함께 우리는 전문기관과 같이 심화분야에서 인지단말기를 개발하면서 AI에 대해 장기적인 중점사항을 확인하였습니다. 그 중에 큰 관심사는 바로 어떤 정확성 기준에 부합하는 범위 내에서 행동을 한정시킬 수 있는 에이전트들입니다. 우리는 그러한 에이전트들의 네 가지 핵심 요소를 발견했습니다. 그것은 깊게 알기(knowing deeply), 목적에 근거한 추론(reasoning with purpose), 지속적 학습(learning continuously) 그리고 자연스러운 상호작용(interacting naturally) 입니다.  이러한 접근을 통해 참고할만한 아키텍처의 핵심은 반응성 실행 제어기(Reactive Executive Controller, REC) 라는 것입니다. 어떤 환경으로부터 하나의 입력값을 받게 되면, 그것을 계산 관련 에이전트 그룹에게 전달되고, 각각의 에이전트들로부터 출력값을 다시 받아 하나의 결과로 합성하여 응답하는 구성요소입니다. 우리는 그러한 동기식 프로그래밍 기술이 REC 을 제작하는 데 사용되어야 한다고 주장합니다. 동기식프로그래밍은 임베디드 컴퓨팅 분야에서 확립되어 몇 십년 동안 발전되어 온, 다양한 프로그램 행동이론 및 정확성을 제공할 수 있기 때문입니다. 또한 동기식 프로그래밍은 다중 시간 개념을 지원합니다. 매개화된 시간 개념을 사용하여 프로그램을 작성할 수 있고, 그것은 실제로 다른 프로그램에 의해 구성적으로 통제 가능함을 의미합니다. 우리는 그러한 프레임워크(TCC와 같은 언어로 구현된)가 주변의 방해에 대한 학습을 허락하지 않고  안전하게 학습 관련 에이전트를 방해하는 방법으로 최근에 제안되었던 인터럽션능력과 관련된 아이디어를 구현하기에 가장 적절한 세팅을  지원한다고 믿습니다.
신뢰(Trust):  AI 시스템은 인간과 함께 동작하고 일할 것입니다. 때로는 사람에게 결정을 제안할 수도 있고, 사람의 결정을 이해하기도 하면서 말입니다. 우리는 그러한 시스템의 제안을 따르기 위해서, 시스템을 믿어야만 합니다. 그러므로 다른 일반적인 사람들이 이해할 수 있는 방식으로 시스템의 행동을 설명할 수 있는 능력을 개발하는 것이 필요합니다. 마치 사람과 마찬가지로, 일반적인 수준에서(자연어로, 정확한 추론, 논리 및 수학을 이용하여) 대화할 수 있도록 내부적인 신경망 프로그램 구현의 상세한 부분은 신경쓰지 않아도 될 명백한 합리화 능력을 개발해야 되는 것은 어쩌면 당연합니다.
윤리적 규범: 우리는 윤리와 도덕이 에이전트들에게 무엇을 의미하는지에 대한 깊고 심오한 질문들을 고려할 필요가 있습니다. (에이전트는 고통, 즐거움이나 종의 보존과 같은 개념 - 상호작용하거나, 협력하거나 또는 규범을 발전시킬 수 있는 생물학적 시스템에 대한 필요성을 추진하는 힘 - 을 본질적으로 갖고 있지 않습니다.) 문화적인 영향은 사람의 행동에 큰 영향을 줍니다: 만약  전세계의 완전히 다른 문화와 가치를 가진 사람들에게 적용될 AI 시스템을 디자인/개발하게 된다면, 어떻게 이러한 것들이 고려될 수 있을까요?
이 주제와 관련된 것 중에 한 가지 이슈를 예로 들면, AI가 수행할지도 모르는 정치적 역할입니다.위에서 언급했던 바와 같이 AI는 범죄 수사를 도와줄 엄청난 잠재력을 갖고 있습니다. 하지만 몇몇 나라에서 범죄의 정의는 절도, 사기죄, 상해, 반사회적 행위 등에서부터 정치적 반체제까지  완전히 달라지기도 합니다. 다시 말해서 AI가 단지 "일반적인" 범죄를 줄이기위해 사용할뿐만 아니라 어떤 정권에서는 더 나아가 탄압 용도로 이용될 지도 모르는 리스크가 존재합니다. 이러한 문제를 처리할 수 있는 한가지 접근 방법은 그와 같은 사용을 금지하는 어떤 국제적인 조약 형태를 만드는 것입니다; 또한 고객들이 AI 기술을 어떻게 사용하길 원하는지 정확히 이해하고 적절히 대응하는 것은 AI 판매자들의 책임이어야 합니다.
사회적 규범: 우리는 미래에 AI 시스템이 인격체로서 과거와 성격을 가지고, 다른 인간과 상호작용할 수 있으며, 관계를 만들기도 하고, 신뢰하고 또한 신뢰받을 수 있으며, 설득하고 또한 설득당하기도 하면서 함께 일을 처리하는 하나의 인격체으로서 존재하게 될 것이라고 예측합니다. 사람들은 자신과 상호 작용하는 다른 모든 사람들로부터 어떤 수준의 사회적인 규범이나 행동을 기대합니다. 사회적인 능력을 가진 AI 시스템을 개발하는 것은 매우 심오하고 진지한 도전이라고 볼 수 있습니다.
알고리즘 투명성: 이것은 왜 시스템이 그렇게 행동하며 그로인해 미래에 무엇을 할 것 같은지  아는 것에 관한 것입니다. 다른 형태의 AI인 신경망 네트워크와 관련된 문제 중 하나는 당신이 "왜(Why)" 어떤 특정한 결과값이 나오게 되었는지를 전혀 찾아 낼 수 없다는 것입니다. 이것은 지식 기반의 코그너티브 기술과 다른 점인데, 왜냐하면 코그너티브 기술은 당신에게 어떤 것을 말하고 있는 이유 즉 유추 및 추론과정에 무슨 증거가 사용되었는지를 알려줄 수 있기때문입니다. 그리고 데이터의 출처에 대한 투명성 또한 필요합니다. 어떤 면에서 보면 문제가 없어 보이는 데이터들을 조합하면서 발생하는 심각한 프라이버시 침해를 다루는 것은 큰 문제가 될 것이기  때문입니다. 편견은 품질이 우수하지만 선천적으로 왜곡되어 있기도 하기 때문에 여러 자유로운 형태로 나타나는 데이터입니다.
예상치 못한 상호작용: 이것은 단지 AI가 미친듯이 날뛰는(running amok) 것을 말하는 것이 아닙니다. 코그너티브 컴퓨팅 시스템은 인간을 넘어서는 결론들을 생산해 내고, 행동들을 개시할 것입니다. - 이로 인해 우리가 디자인했던 대로 개별로 동작하던 두 시스템이, 예상치 못한 또는 위험한 방법으로 집단적으로 갑자기 행동할 수도 있습니다. 또한 어플리케이션 및 어떤 불법행위를 위해 접속하는 사람에 대한 문제도 있습니다. 예를 들어 위에서 언급하였던 범죄 탐지 능력은 정치적인 반체제자 또는 어떤 불편한 정권에 의해 이루어지는 활동을 탐지하는데 손쉽게 사용될 수 있습니다. 우리가 그런 것을 지원하고 있는 것처럼 보이길 원합니까?
위로 요약 .

I. AI의 법률 및 거버넌스 영향도 (RFI 질문 1)

2016 년 7 월 28 일 최종 수정
AI 의 정책 입안은 책임을 기반으로 해야합니다. 포용적대화(inclusive dialogue)를 통해서 헤드라인이나 광고를 넘어서서, 더 깊은 이해를 촉진하고 새로운 기술에 집중할수 있는 관련 주제들에 대해서 탐색할 수 있습니다. 증기 기관에서부터 마이크로 프로세서와 같이 사람들이 만든, 생활을 변화시키는 모든 도구는 인간의 능력을 증강시키고 더 큰 꿈을 꿀 수 있게 하며,  더 많은 일을 할 수 있게 합니다. 이러한 도구를 가진 사람들은 완전히 새로운 수준의 빅 데이터 문제들을 해결할 것입니다. 글로벌 공동체의 구성원으로서 우리의 책임은 AI가 정당한 사유를 위해서, 올바른 방법으로 개발되도록 최선을 다해 보장하는 것입니다.

예를들어, 코그너티브 시스템은 새로운 발견을 하는 과학자와 연구자들의 창의성과 생산성을 높일 수 있도록 설계되고 있습니다. 이러한 유익한 개발들에 대해서, 사회의 지도 원리는 사회를 보호하면서 혜택을 누리며 책임있는 혁신을 권장하는 적절한 견제와 균형을 가지고 코그너티브 컴퓨팅에 대해 접근해야 한다는 것입니다. 지금, 정책 입안자들은 이러한 구체적인 단계를 밟으면서 가까이에 있는 기회를 활용할 수 있습니다

대화의 승격 : 코그너티브 시스템의 비즈니스 및 사회적 영향은 크며, 계속 증대되고 있으며, 책임감이 정책 의제로 이어지는 대화의 기초가 되어야 합니다. 다음과 같은 주제들이 포함됩니다.

• 알고리즘적 책임 - 독점 및 기밀 비즈니스 정보를 보호하면서, 소프트웨어 코드의 기본 알고리즘 구축 및 작업시 이해와 신뢰를 만들기 위한 실례와 프로토콜 설정.
• 개인의 정보 보호 - 개인의 정보 보호를 위한 강력하고 합리적인 보호 방안의 수립 .
• 직업과 노동인력의 변화 - 새로운 일자리 창출, 그리고 그 일자리에 필요한 기술력을 갖춘 근로자들
• 안전 - 도덕과 윤리에 기반한 의사결정을 보호하고, 자율적인 시스템을 위한 제어 원칙을 수립.

뉴스 제목 이상을 이해하기: AI와 관련된 과장된 광고들을 고려할 때, ITIF가 최근에 내놓은 문서가 이 기술의 실체, 진행 상황, 적용 방안 및 사회적 관심들이 어떻게 인식되고 고려되어야 하는지를 이해하려는 정책 입안자들에게는 엄청난 도움이 될 것입니다.

기술력에 집중 : 우리는 데이터 집중적인 직업의 새로운 시대에 필요하게 될 첨단 기술(high-tech skill)에 대한 교육 및 훈련을 해야만 합니다. 오늘날의 교육 시스템은 노동 시장의 요구와 근본적으로 어긋나 있으며, 우리 사회는, 코그너티브 시스템이 발전하면서 생기는 새롭고 보다 고소득의 직업에 필요한 새로운 교육과정과 직업 훈련 프로그램이 필요합니다.



위로 요약

J. 기타 이슈 : 비즈니스 모델 (RFI 질문 11)

2016 년 7 월 28 일 최종 수정
시장 중심의 경제에서는 사회에 더 효과적인 결과와 전체 이익을 주는 새로운 비즈니스 모델의 생성에 따라 진행이 결정적으로 달라집니다.
AI만큼 광범위하고 영향력있는 기술의 수용은 높은 수준의 대중의 신뢰를 필요로 합니다. 이러한 신뢰는 하룻 밤새 나타나는 것은 아닙니다. 오류 유무에 상관없이 AI 시스템이 실패 할 경우에 차질이 발생할 것입니다. 실패는 일부 오용 또는 도구 자체에 내재된 어떤 것으로 인해 발생할지 모르지만 AI를 사회적으로 수용한다는 것은  사람들이 실수를 인내할 가치가있는 투명성, 위험에 대한 신중한 평가, 혜택에 대한 사회적 이해를 필요로 합니다.
비즈니스 모델 : AI 시스템은 기술적인 능력이 빠르게 발전하고 있으면 또한 아주 느리게 규제 정책을 변경하고 있습니다. AI 시스템의 채택은 일부분은 비즈니스 모델에 의해 결정됩니다. 지금까지 안전한 인지 거래 플랫폼(블럭체인, 암호화 원장 Blockchain, Crypto-ledger)에 대한 신뢰할 수있는 경제 모델 (오픈 API 경제 및 비즈니스 모델)은 없습니다. 이는 성공하기 위해 신뢰에 의존하는 사람 중심의 시스템을  재설계해야하는 과제인 것입니다. 신뢰할 수있는 이러한 경제적인 플랫폼이 준비되었을 때 사람들은 인지시스템을 구축 및 이해 하고 함께 작업할 수 있을 것입니다.-인지 시스템이 개와 말의 능력처럼 더 높은 수준으로  향상되는 사회지능을 가진다면 마침내 신뢰할 수 있는 소셜 소프트웨어 생물체(social software organism)처럼 될 것입니다. 신뢰할 수있고 잘 작동하는 인지 엔진(cognitive engines)들은 과거의 증기기관처럼 미국과 세계 경제를 변화시켜 급격히 성장시킬 것입니다.
인지 심리학자 도널드 노먼(Don Norman)이 1994년에 쓴 책 의하면, 지식, 기술, 조직은 사람들을 스스로 더욱 똑똑하게 보강 할 수 있는 세 가지 방법입니다. 공학, 사회및 경영 과학이 다같이 함께 향후 중요한 역할을 할 것입니다. 인지도구에서 부터 중재자를 지도하는 협력자에 이르기까지, 이것은 기술 능력의 발전 못지 않은 신뢰의 과정입니다. 그러나, 그것은 가치가 있습니다. 데이터가 새로운 천연 자원인 복잡한 세상에서 – 모든 직업을 위한 인지적인 조언 및 모든 사람을 위한 인지적인 중재자 - 모든 사람이 이용할 수 있는 확장된 지성은 고급 인공 지능 기술의 인지시대에서 사람이 중심이되는 시스템으로 재설계하는 것이 목표입니다.

신뢰는 시간이 걸립니다, 실수가 있을 것입니다 : 19세기에는 사람을은 최초의 증기기관과 보일러를 신뢰하지 않습니다. 이유는 경고없이 폭발하는 경향이 있었기 때문입니다. 시간이 지남에 따라  디자인과 공학기술이 발전하였고, 신뢰가 향상되어 증기기관의 거대한 경제적 잠재력이 실현되었습니다. 예를 들어 경제학자 브라이언 아서(Brian Arthur)가 작성한 2011년 논문에서 다음과 같이 언급하였습니다. "1850 년 남북 전쟁 전 10년동안 미국의 경제는 작았으며, 이탈리아의 경제 규모보다 훨신 크지 않았습니다. 40년 후, 미국의 경제는 세계에서 가장 큰 규모가 되었습니다. 그 사이에 있었던 일은 철도가 구축된 것이었습니다.”
신뢰를 충분히 얻지 못한 다른 예로서는, 틀림없이 온실 가스 배출을 물리칠 수 있는 잠재력이 있음에도 불구하고 현재 재처리되고 있는 원자력입니다. 원자력 발전에 대한 재정적인 계획은 명백히 만들기 어려운 것으로 입증되었지만 영국, 미국, 우크라이나, 일본 사고 이후 그리고 많은 국가에서 핵폐기물 저장 장소에 대해 여러해 동안 논쟁을 한 이후로 그 사례를 만들려는 의욕이 상당히 줄어들었고 상당히 많은 국가가 지금 원자력 발전 용량을 줄이거나 폐기하고 있습니다.
지금 현재 사람들이 인공지능의 사회적 충격에 대한 두려움 또는 자가 운전 모드로 주행하던 테슬라 자동차와 관련된 최근 사망 사고와 같은 사실에 영향을 받거나 이전에 오류로 판명난 구글 자동차처럼 AI의 여러 형태를 점점 불신하는 경향이 있다고 생각됩니다. 사고가 났을때  테슬라는 회사의 권고 방식과 반대로 사용되었다는 사실과  구글자동차는 운전자의 잘못으로 판명된 수많은 사고가 있었다는 사실은 신뢰의 관점과는 무관합니다. 신뢰는 사회적 산물이며, 문제가 되는 사건과 관련된 선정적인 홍보로 인해 사람들에게 이러한 AI의 형태를 쉽게 신뢰하지 못하게 하면 자율 주행 자동차를 인정 받기 위해 힘겨운 투쟁에 직면하게 될 것입니다. 토마스 정리에서 처럼 "[사람들이] 실제 상황이라고 규정하면 실제로 그렇게 된다는 것입니다.”
AI의 모든 형태에 대한 신뢰를 얻기 위한 과정은 이 응답의 여러 곳에서 정의된 몇 가지 요소 즉 알고리즘 투명성, 개방성, 명확한 거버넌스 프레임 워크, 기술의 윤리적 응용, 위험에 대한 신중한 관리가 필요합니다.: 이들 조건들이 보장된다면 기술 업계 내에서 대학 및  정부와 함께 협조하는 협업이 차례로 요구될  것입니다
위로 요약 .

맺음말

2016 년 7 월 28 일 최종 수정
AI 시스템은 인간의 지능을 보강하고, 궁극적으로 우리의 개인 및 직업적 삶을 변화시킬 것입니다. 그로인한 장점은 지금까지 겪은 위험보다 훨씬 큽니다. 그리고 올바른 정책과 지원이 있으면 그 혜택은 더 빨리 실현 될 수 있습니다.
다음은 정책 입안자가 중점을 두어야 하는 것들입니다.

• AI 기술의 기능과 제한 사항에 근거한 사실 중심의 대화
• AI시스템을 광범위한 공공의 이익에 활용하기 위한 점진적인 사회 및 경제 정책 개발
• 미래 세대를 위한 점진적인 교육 및 인력 프로그램 개발
• AI 시스템의 학문과 설계를 발전시키기 위해 다른 학문 분야와 제휴하는 장기 연구 프로그램에 대한 투자

우리의 관점은 생산성 향상, 새로운 발견을 촉진하기 위해 AI가 사람과 기계 간의 협력을 가능하게하고, 보다 효율적으로 사용할 수있는 자원을 확보한다는 것이다. 그 약속을 이행하여 AI가 직업을 다른 활동으로 옮겨가게 할 수 있지만, 그들을 대체하지 않습니다. 제휴를 통해서 AI가 확실히 신중하게 적용되고 고려되어야 할 필요가 있지만 때로는 확인된 위험은 과장되고 어떤 경우든 관리되거나 완화 될 수 있어야 합니다.
이미 AI 시스템은 질문에 답하고 제품과 서비스를 추천하는 우리의 일상생활의 일부가 되었고, 빅 데이터가 새로운 천연자원인 세상에서 사람들이 더 똑똑하게 살아가고 일하는데 도움을 주는 많은 것들이 진행중에 있습니다.
시장에 AI 시스템을 도입하기 위한 우리의 접근 방식은 다양한 산업 및 그에 속한 전문적인 업무에 중점을 둔 과업 중심 또는 특정 영역 위주의 AI도구를 만드는 실용적인 접근방식을 추구하고 있습니다. 또한 우리는 소비자 (IBM의 기업고객에 대한 소비자)의 다양한 개인적인 작업을 가능하게 합니다. 우리가 이러한 영역중심의 AI 시스템을 구축함으로서 우리는 기본적인 기계장치를 일반화하고 "수평"(산업 간) 플랫폼에 사용할 수 있게 만드는 것입니다, 이는 차례로 새로운 영역중심의 다양하고 뛰어난 시스템을 점진적으로 쉽게 구축할 수 있습니다. 기술 관점에서 볼 때, "인지" 형태로 실질적인 AI 시스템을 구축하는 것은 교과서적인 AI를 뛰어 넘는 기술이 필요합니다 -이 논문에서, 우리의 관점은 기본 수학 학문, 학습; 언어, 음성 및 시각 기술; 휴먼 인터페이스 기술, 추론과 의사 결정 기술; 분산 및 고성능 컴퓨팅; 새로운 컴퓨팅 아키텍처 및 장치에 대해 수십년 동안 투자를 해왔다는 것입니다.




이 문서에서 정책 입안자는 AI 정책의 주요 추진력으로 인지 컴퓨팅 및 인지 시스템 접근 방법을 채택하는 것이라고 주장하고 있습니다. 인지 시스템은 사용자가 통찰력을 구하고 더 나은 결정을 하고 복잡한 업무를 처리하기위해 대용량의 비정형화된 자료를 처리할 수 있게 도움을 주는 기술적인 도구 입니다. 우리는 지적 확장(Intelligence Augmentation : IA)를 위해 인공 지능 (AI)에 대해 사람이 중심이 되는 시스템을 재설계 하는 접근 방식을 촉구합니다.
인지 시스템을 구축하는 것은 연구와 관련된 많은 문제, 연구 격차, 데이터 세트 및 여전히 부족한 기술분야로 인해 매우 어렵기 때문에 인지도구에서 부터 중재자를 지도하는 협력자에 이르기까지 진행과정이 점진적으로 일어날 것입니다. 그럼에도 불구하고, 이 짧은 문서에서는 이를 따를 경우 우리가 인지 시스템의 사회적 혜택을 보다 빠르고 안전하게 얻을 수 있을 것이라고 권고하고 있습니다.
위로 요약 .