Retune 2016, 파트 2 : 알고리즘 의사 결정, 머신 바이어스, 창의성 및 다양성

이것은 Retune 2016 에서 제 강연 (예 : 설교, 교회에서)에서 발췌 한 것입니다. 주제에 따라 여러 게시물로 나누었습니다. Part 1은 제가 Resonate 2016 토크 에서 더 자세히 탐구 한 아이디어의 요약입니다. 나머지는 지난 몇 년간 제가 생각했던 것입니다. 처음 발표합니다.

참고 : 그가 이야기하는 t 의이 섹션을 준비하는 동안 저는 제가 수집 한 인용문이 백인 남성에 의해 지배되고 있다는 것을 깨달았습니다. 핵심 메시지. 전달하고 싶은 다소 구체적인 이야기가있었습니다. 수세기를 거슬러 올라가는 통계적 편견, 오해 , 조작 및 속임수에 대한 간략한 역사적 설문 조사입니다. 양심적 인 조사에도 불구하고이 주제에 대한 더 다양한 그룹의 역사적 인용문을 찾을 수 없었습니다. 그러한 영향력있는 통계학자를 찾는 것이 반드시 어려운 부분은 아니 었습니다. 제가 말하고 싶은이 특정 이야기에 맞는 적절한 인용문을 찾는 것이 었습니다. 아마도 역사적으로 백인 남성이이 분야에서 지배적 인 목소리 였기 때문일 것입니다. 또는 아마도 우리에게 전해져 온 역사가 백인이 아닌 남성의 목소리를 듣지 않았거나, 충분한주의를 기울이지 않았거나, 녹음하지 않았기 때문일 수도 있습니다. 아니면 내가 충분히 열심히 보지 않았기 때문일 수도 있습니다. 아마도 이러한 모든 요소의 조합 일 것입니다. 내 이야기에 맞는 인용문 포트폴리오를 다양 화하지 못한 채 나는 i) 내 이야기를 변경하고 더 다양한 그룹에서 찾을 수있는 인용문에 적용 할 것인지 결정해야했습니다. 또는 ii) 우리에게 녹음되고 제시된 역사를 지배하는 목소리의 동질적인 분포를 다시 한 번 상기시키는 또 하나의 또 다른 뚜렷한 상기로서, 인용문의 내러티브와 포트폴리오를 그대로 유지하십시오. 저는 제가 말하고 싶은 이야기에 상당히 집착했기 때문에 후자의 옵션을 선택했습니다. 중요하지만 잊혀지거나 억압 된 목소리로이 이야기에 맞는 (또는 다른 방식으로 관련된) 인용문이나 텍스트를 알고 있다면 댓글에 게시 할 수 있습니다. 특히 수십 년 전으로 거슬러 올라가면 댓글에 게시 할 수 있습니다. , 수세기 (또는 수천년)는 아니더라도

소개

AI는 최근 많은 언론의 나쁜 보도를 받고 있습니다. 특이점과 로봇이 점령한다는 말도 안되는 언론을 말하는 것이 아닙니다. 내 말은 AI가 잘못 이해하고 망친다는 뜻입니다.

여기서 ‘AI’라는 용어를 아주 느슨하게 사용합니다. 제가 말하는 것은 광범위하게 ‘알고리즘’이라고하는 것입니다. 더 정확하게 말하면 ‘알고리즘 의사 결정’— 어떤 광고를 보는지 결정하고, 사진에 라벨을 붙이고, 고위험 범죄자인지 아닌지 결정하고, Facebook 피드에 표시해야 할 내용을 결정하는 알고리즘입니다.

보통 이러한 알고리즘은 일종의 머신 러닝 알고리즘으로 ‘학습 데이터’를 분석하여 행동하는 방법을 학습하는 알고리즘입니다. 훈련 데이터는 우리가 생산하는 데이터에 포함 된 우리, 우리의 의견, 가치, 문화입니다. 그리고 이러한 알고리즘은 우리의 나쁜 습관을 배우고 있습니다. 그들은 우리의 편견과 편견을 포착하고 있습니다. 결과적으로 그들은 엄청나게 성 차별, 인종 차별, 능력주의, 연령 차별, 차별적, 해로운 결정을 내리고 있습니다. 편견을 강화할뿐만 아니라 때때로 개인의 삶을 파괴합니다. 정말 충격적이고 끔찍하며 용납 할 수없는 사례가 많이 있습니다. 이 이미지는 아주 작은 선택 일뿐입니다.

고맙게도 이에 대해 조사하고 글을 쓰는 사람들이 늘어나고 있습니다. 머신 바이어스에 대한 광범위한 연구를 수행하는 propublica.org를 확인하는 것이 좋습니다.

Microsoft Research의 Kate Crawford와 NYTimes에 글을 쓰는 Zeynep Tufekci와 같은 사람들은 이러한 문제를 많이 노출하고 알고리즘 의사 결정의 사회적 영향을 살펴보고 더 많은 규정과 투명성을 요구합니다.

사실 The Social Media Collective (SMC)라는 연구자 네트워크가이 훌륭한 연구 목록을 모아 놓았습니다. ‘중요 알고리즘 연구 : 읽기 목록’을 검색하면 찾을 수 있습니다.

물론 상당히 복잡한 문제입니다. 기계 학습 모델의 결과는 다양한 요인 간의 상호 작용의 결과이며 알고리즘이 특정 결정을 내리는 이유를 정확히 지적하는 것이 항상 사소한 것은 아닙니다. 예 : 특정 광고가 여성보다 남성에게 더 자주 표시 될 수 있습니다. 남성이 해당 광고를 더 많이 클릭하는 것으로 보였기 때문에 알고리즘이이를 학습했습니다. 또는 광고주가 명시 적으로 남성을 타깃팅하도록 요청했을 수 있으며 알고리즘은 단지 준수합니다. 타깃 광고는 전체 비즈니스에 관한 것입니다. 또는 알고리즘이 다른 알려지지 않은 ‘복잡한’이유로 광고 된 제품이 남성에게 더 적합 할 것이라고 추론했을 수도 있습니다.

따라서 때때로 이러한 문제에 대한 책임이 정확히 어디에 있는지에 대해 약간의 혼란이있는 것 같습니다. 개발자 나 회사가 자신의 알고리즘 객관적 이거나 편향된 데이터 라고 주장하는 경향이있을 수 있습니다. 문제를 일으키는 클라이언트가 설정 한 제약 .

가장 간단하고 간결한 대답은 제가 종이에 숨겨진 문장이며 절대적으로 비판적이라고 생각합니다…

“알고리즘의 도덕적 지위는 사회에 미치는 영향을 부정하지 않습니다.”

— A. Datta, M.C. Tschantz, A. Datta, “광고 개인 정보 보호 설정에 대한 자동화 된 실험”, 2015

실제 사용을 위해 알고리즘을 배포하는 사람은 어떤 이유에서든 모든 각도에서 조사하고 이해하는 것이 자신의 책임이 아니라고 가정하고 알고리즘의 더 넓은 영향을받는다고 생각하는 것이 매우 충격적입니다. , 알고리즘을 배포하기 잠재적 인 원치 않는 결과를 포함합니다. 제품 또는 서비스를 출시하기 전에 다른 산업이 적용하는 것과 동일한 수준의 엄격함과 규제를 받아야합니다. 식품 또는 의약품 산업 (안전하지 않은 제품을 여전히 밀어 내고 있음)처럼

물론 안타깝게도 현재의 신자유주의 의제에 위배되며 ‘혁신을 방해한다’는 비판을 비난 할 수 있습니다. 이것은 “수익 극대화, 최대한 빨리 제품 출시, 심각한 문제 발생시 업데이트 출시, 기타 잘못된 행위 무시 또는 거부”라는 말로 진행되는 의제입니다.

사회는 실리콘 밸리의 놀이터 인 베타 테스터가되었습니다.

식품 산업에서 동일한 사고 방식을 상상해보십시오. “우리는이 새로운 초콜릿 바를 만들었습니다. 나와 우리 가족 만이 테스트를했습니다. 최대한 빨리 시작하겠습니다. 누군가 병에 걸리거나 사망하면 우리는 그것을 기억하고 업데이트를 배포 할 것입니다.” 믿거 나 말거나 나는 토목 기술자로 교육을 받았습니다. 그런 사고 방식으로 다리를 짓는 것을 상상할 수 있습니까? “우리는 매우 특정한 상황에서만 브리지를 테스트했습니다. 최대한 빨리 대중에게 공개하고 문제가 있는지 확인하겠습니다.”

물론 저는 약간 불공평합니다. 식중독이나 브리지 실패의 부정적인 결과는 알고리즘 실패의 부정적인 결과보다 쉽게 발견 합니다. 그리고 여기에 문제가 있습니다. 알고리즘의 부정적인 결과를 정량화 하는 것이 더 어렵습니다. 특히 우리 모두가 무슨 일이 일어나고 있는지에 대해 무지한 경우에는 더욱 그렇습니다.

하지만 저는이 각도에 머물고 싶지 않습니다. 앞서 언급 한 사이트와 리소스에 저보다 훨씬 더 많은 자격을 갖춘 사람들에 의해이 주제에 대한 글이 늘어나고 있습니다. 어떻게 된 일입니까? 우리가 어떻게 여기에 왔고 이것이 일어나도록 두었습니까? 그리고 왜 일어나고 있습니까? 나는 이것을 역사적 관점에서 간략하게보고 싶다.

이러한 학습 알고리즘은 주로 통계 (또는 오히려 통계적 추론)이며 컴퓨터 과학을 통해 강화 된 계산 통계입니다. 이러한 특정 영역에 적용됩니다.

통계는 새로운 분야가 아닙니다. 사실, 전체 통계 분야는 데이터 샘플이 본질적으로 편향되어 있고 데이터가 샘플링 된 인구를 정확하게 나타내지 않는다는 사실을 깨닫고 17/18/19 세기 내내 탄생하고 발전했습니다 . 이것이 우리가 통계 분야를 시작하는 이유입니다! 그래서 저는 여러분을 시간을 통해 또 다른 짧은 여행으로 안내하고 싶습니다.

통계 편향에 대한 간략한 역사

1600 년대 후반, 위대한 수학자이자 확률 이론의 창시자 중 한 명인 Jakob Bernoulli는 다음과 같이 말했습니다.

나는 통계 역학과 확률을 연구하는 물리학자인 Edwin Thompson Jaynes의 책“Probability Theory”에서 Bernoulli의이 인용문을 보았습니다. 같은 책에서 Jaynes는 다음과 같이 말했습니다.

진화 생물 학자 스티븐 제이 굴드가 말했습니다…

그리고 그 이유 중 하나는 경제학자 Ronald Coase가 우리에게 제시 한 것입니다…

또한…

… (양자 역학의 기초를 다진) Niels Bohr가 유명하게 만든 것으로, 초기 출처에서 볼 수 있습니다.

물론 아주 유명합니다…

정확한 출처는 알려져 있지 않지만 이미 1891 년에 National Observer에 인쇄되었습니다…

물론 Mark Twain도 말했습니다…

사실 이러한 통계 특성 은 매우 잘 알려진 사실이었으며 1954 년에이 책이 나왔습니다…

흥미롭게도 2005 년부터…

… 다른 통계 텍스트보다 더 많은 사본을 판매했습니다. 물론 ‘통계와 거짓말’에 대한 책의 통계를 보는 아이러니는 다소 달콤합니다.

그럼 왜 통계?

하지만 저는 부정의 불공정 한 선구자가되고 싶지 않습니다. 통계에 대한 욕설은 불공평합니다. 쓰레기가 아닙니다. 이유가 있습니다.

위대한 수학자 라플라스가 말했습니다…

위대한 물리학 자 맥스웰의 반향…

또한 위대한 선구 적 간호사이자 통계학자인 Florence Nightingale은 비슷한 감정을 나타내지 만 다른 시각으로 반향했습니다…

불확실성에 의해 지배되는 세상에는 통계를위한 장소가 있으며 있어야합니다. 위험하지만 우리는 그것에 의존합니다. 그리고 이것은 통계에서 가장 많이 인용 된 진술로 요약 할 수 있습니다. George Box…

나중에 확장 된…

그것이 우리가해야 할 질문이며 아마도 오늘은 충분히 묻지 않을 것입니다. 사실“내가 아니고 데이터 다”라고 회피하는 책임이 많은 것 같다. 그러나 이것은 정당한 주장이 아니라는 사실이 한동안 알려져 왔습니다…

요컨대, 우리처럼 불확실한 세상에서 통계는 필수는 아니지만 유용합니다. 그러나 조심스럽게 다루어야합니다. 또는 저를 다시 인용하려면…

컴퓨터 데이터 애호가 세대는 이러한 사고의 계보를 잊고 망상적인 기술 유토피아 세계로 맹목적으로 뛰어 들고 있습니다. 무지, 아마도 기술 사업의 골드 러시 사고, 스타트 업 문화, 의미에 대해 생각하지 않고 급히 무언가를 구하려는 욕망, 순전히 이익과 항상 일치하지 않는 신자유주의 가치에 의해 추진되는 더 넓은 인구의 웰빙.

올해 초 슬프게 세상을 떠난 절대 천재 우르술라 프랭클린이“기술의 현실 세계”(1989 년 강연이자 책이기도 함)에서 말했듯이…



수세기에 걸친 미묘한 소셜 프로그램을 통해 제조 및 산업 공정의 영리한 점진적 설계; 새로운 기술의 개발 및 적용을 통해 부과 된 계층 구조; 이러한 새로운 사회적, 정치적, 경제적 구조가 우리의 가치에 미치는 영향; 우리는 특정한 것을 ‘정상’으로 받아들이는 데 익숙해집니다. 정상 이되어 정상 성을 질문 할 수도 없습니다. 우리가 ‘기술 산업’이라고 부르는 신자유주의 의제와 ‘혁신’과 ‘경제 성장’이라는 이름으로 사회적 책임을 회피하는 능력과 같습니다. 또는 더 나쁜 것은 그들이 사회적 책임을 맡을 때 중년의 부자 백인 소년의 엄청나게 좁은 렌즈를 통해서입니다.

(나는 The Real World of Technology 를 충분히 추천 할 수 없습니다. Franklin은 또한 과학 및 공학의 다양성을 옹호합니다. 곧).

또한, 결과 와 이에 대한 이유 는 H.G. Wells가 1929 년에 작성한이 믿을 수 없을만큼 예언적인 성명서에 표현되어 있습니다…

그는 읽고 쓰는 것만으로는 충분하지 않은 세상을 상상하고 있습니다.하지만이 세상은 많은 양의 복잡한 데이터를 포함하는 새로운 패러다임에 의해 지배 될 것이므로 우리는 용어로 생각할 수 있어야합니다. 그 당시에는 존재하지 않았던 현대의 컴퓨터가 아니라 수학적, 계산적 사고의 형태입니다. 물론 ‘평균, 최대, 최소’로 그는 빅 데이터 를 다루는 통계적 사고를 언급하고 있습니다.

기계와 빅 데이터로 가득 찬 세상을 어떻게 이해하고 상호 작용할 수 있습니까? 다시 인용하려면…

빅 데이터의 세계에서 특정 수준의 계산적 또는 통계적 지식이없는 우리는 단지 관광객 일뿐입니다. 그리고 우리는 다음과 같은 상황에 처하게됩니다…

… 과학 + 기술과 일반 대중의 이해 사이의 차이와 관련하여 제가 가장 좋아하는 인용문 중 하나 일 것입니다.

‘컴퓨터의 아버지’라고 불리는 Charles Babbage는 1800 년대에 기계식 컴퓨터를 설계했습니다.가장 유명한 것은 차이 엔진 (다항식 계산기)과 여기에 표시된 분석 엔진 (범용 컴퓨터)입니다. 그는 항상 자금이 부족했기 때문에 실제로 제작하지는 않았지만 (당시에는 이러한 기계에 의존 한 세계 대전이 없었습니다) 그는 설계했습니다. 그리고 그는 말했다…

믿거 나 말거나 그것이 바로 오늘 우리가하는 일입니다.

우리는 잘못된 수치를 입력하고 있으며 올바른 답을 얻기를 바랍니다.

우리는 너무 멍청해서 수치를 잘못 입력하고 있다는 사실을 깨닫지 못합니다. 기계가 수행 할 수없는 작업을 수행하도록 요청하고 있으며 자체 설계 결정에 의해 제한된다는 사실을 깨닫기에는 너무 멍청합니다.

우리는 너무 멍청하거나 상관하지 않습니다. 무엇보다 비즈니스는 너무 수익성이 높아 누구라도 중단하고 조사 할 수 없습니다.

혁신가로서의 기계

통계에 대한 역사적인 견해와 통계학 자의 책임을 살펴 보는 아주 짧은 시간 여행이었습니다. 이제 방향을 조금 바꾸고 싶은데, 이것은 다음 섹션에 대한 좋은 링크를 제공합니다. 배비지는이 특별한 여정에서 혼자가 아니었기 때문입니다.

수학자이자 이론적 인 컴퓨터 프로그래머 인 Lady Ada Lovelace는 당시 42 세인 Babbage를 만났을 때 겨우 17 세였으며, 나이 차이에도 불구하고 그의 지적 협력자이자 동료였습니다. 그녀의 메모를 통해 우리는이 기계에 대해 많이 알고 있습니다. 또한 그녀의 노트에는 베르누이 수를 계산하기위한 최초의 복잡한 컴퓨터 프로그램으로 간주되는 것이 있습니다.

또한 그녀의 노트에는 놀라운 선견지명, 수세기에 걸친 선견지명이있는 아름다운 댓글이 있습니다. 아마도 지난 수십 년간의 컴퓨터 생성 예술 운동을 예표 할 수도 있습니다.

가장 심오한 통찰 중 하나는 Babbage가 무엇이든 계산 할 수있는 기계를 설계하는 데 주로 관심이있는 반면, 즉 숫자 작업을하는 동안 그녀는이 기계가 그 이상의 잠재력을 발견하고 진정한 범용 컴퓨팅을 수행하기 위해 기호 에서 작동합니다.

하지만 그녀는 계속해서 이렇게 말했습니다 …

또한 그녀의 메모 중에는이 매우 유명하고 자주 인용되며 다소 논란의 여지가있는 진술이 있습니다…

이후 2 세기 동안 연구자들이 그녀의 잘못을 증명하기 위해 노력해 왔기 때문에 ‘논란의 여지가 있습니다’라고 말합니다. 진정한 ‘지능형’기계를 만들고자하는 소위 ‘강력한 AI’의 연구자들과 진정한 ‘창의적인’기계를 만들려는 소위 ‘전산 적 창의성’연구자들입니다. ‘지능’과 ‘창의력’은 종종 서로 얽혀있는 두 가지 모호한 개념입니다. 명확하고 보편적으로 수용되는 정의가 부족합니다. 오늘은 정의하지 않겠습니다.

현장 문제

그러나 여기서 우리는 이러한 분야에서 흥미로운 문제에 직면합니다. AI의 역사를 통틀어 패턴이있었습니다. 문제 또는 작업은 인간 수준의 지능 만이 달성 할 수있는 일로서 지능의 epitome 으로 제시됩니다. 그리고 기계가 그 작업을 수행 할 수있는 경우에만 그러면 진정한 지능으로 간주됩니다.

옛날에이 작업은 계산 이었습니다. 단순한 산술은 인간 만이 할 수있는 것이라고 생각되었습니다. 그것은 수세기 전에 기계식 계산기로 잘못 입증되었습니다. 20 세기 중반 디지털 컴퓨터로 인공 지능이 탄생했을 때는 수학적 증거 였습니다. 확실히 기계는 수학적 정리를 증명하는 데 필요한 논리적 추론을 수행 할 수 없었습니까? 확실히 그것은 인간 만이 할 수있는 일 이었습니까?

그다지 어렵지 않습니다 (제한된 공간에 문제가있는 경우). 1950 년대 중반에는 Allen Newell, Herbert A. Simon 및 Cliff Shaw의 ‘The Logic Theorist’소프트웨어가 정리를 증명했습니다. 어떤 사람들은 AI가 완료되고 임무를 완수했다고 생각했습니다. 몇 년 안에 인간 수준의 지능을 갖게 될 것입니다. 다른 사람들은 이것이 실제로 ‘지능’이 아니라는 것을 곧 깨달았습니다. 그것은 단지 어떤 사람들이 작성한 코드 일 뿐이며, 몇 가지 기본 경험 규칙 (또는 호출 된 “휴리스틱”)을 사용하여 솔루션을 무작위로 검색했습니다. / p>

“체스 , 이제 그게 진정한 도전입니다 . 컴퓨터가 Chess의 인간 전문가를 이길 수만 있다면 “ 그러면 지능적인 것으로 간주 될 수 있습니다.”라고 제안되었습니다.

그러나 1997 년 IBM의 Deep Blue가 체스 그랜드 마스터와 세계 챔피언 인 Garry Kasparov를 이겼을 때 많은 사람들은 Deep Blue가 여전히 실제로 ‘지능적’이지 않다는 점을 지적했습니다. 정말 초고속 컴퓨터였습니다. 무차별 대입 힘으로 모든 동작을 시도하여 작동하는 것을 확인하십시오 (다시 약간의 휴리스틱으로). 그것은 중요하지 않습니다. 지능이 아닙니다.

이제 이제 반면에 이건 무차별 대입 힘만으로는 충분하지 않은 게임입니다. 우주의 원자보다 보드 상태가 더 많습니다. 말하는 것을 좋아합니다). Go는 직관 이 필요한 게임으로, 인간 또는 인간 수준의 지능 만이 가질 수있는 지능과 결합 된 수준의 계획과 직감이 필요합니다.

하지만 Google DeepMind의 AlphaGo가 2015 년에 Fan Hui를, 2016 년에 Lee SeDol을 이겼을 때… 음, 여전히‘지능’이 정말 이 아닐까요? 검색 트리에 적용된 멋진 통계 일뿐입니다. 일부 패턴 인식 알고리즘은 최적의 움직임을 예측하고 보드 만보고 누가이기는지 추측하려고합니다. 여전히 ‘지능’으로 간주되지 않습니다. 그리고 어떤 사람들은 AlphaGo를 ‘창의적’이라고 언급 할 때 다른 사람들은 러브 레이스와 유사한 감정을 인용하면서이를 신속하게 평가합니다.

따라서 AI에는 약간의 움직이는 골 포스트 문제가 있습니다. 정확히 ‘지능’이 무엇을 수반하는지 파악하는 것은 매우 까다 롭습니다. 그리고인지 과학자 Douglas Hofstadter가 1979 년에 발표 한 “Gödel, Escher, Bach : An Eternal Golden Braid”라는 저서에서 아주 잘 표현했습니다…

또는 다시 인용하기 위해…

매우 매력적입니다. 출력을 계산하는 알고리즘을 아는 것은 모든 지능과 창의성을 파괴하는 것처럼 보입니다. 우리가 인간의 두뇌가 어떻게 작동하는지, 인간의 지능과 창의성이 어떻게 기능하는지 정확히 알아 내면 우리 자신도 지능적이거나 창의적이라고 생각하지 않을까요?

물론 그럴 가능성은 모르겠습니다. 왜냐하면…

‘학습’이 정답입니까?

하지만 저는 러브 레이스로 돌아가고 싶습니다. 그녀의 다소 논란이 많은 성명…

그의 1950 년 에세이“컴퓨터 기계와 지능”에서 다른“컴퓨터의 아버지”(많은 사람이 있습니다) Alan Turing은이 진술을 언급합니다. 그는 “기계가 생각할 수 있는가?”라는 질문으로 에세이를 시작합니다.

다시 70 년 동안 무수한 논쟁과 많은 막 다른 골목이 지난 후에도 여전히 답변에 그다지 가까워지지 않았습니다. 하지만 그 에세이에서 튜링은 ‘분석 엔진은 아무 것도 만들어 낼 수있는 가식이 없다’는 러브 레이스의 주장을 “러브 레이스 부인의 이의 제기”라고 언급했습니다.

간단히 말해서 그는 무엇이든 ‘원래’로 간주되기 위해 기계가 사람, 심지어는 프로그래머까지 놀람 할 수 있어야한다고 제안합니다. 그리고 그는 학습 할 수있는 기계의 맥락에서 질문을 재구성합니다. 2 년 전 “지능형 기계”라는 보고서에서 그는 이미 Babbage도 Lovelace도 생각하지 못한 것을 이론화했으며, 이는 어린 아이가 배우고 발달하는 것처럼 학습 할 수있는 기계 입니다. 어른의 마음. 그는이를 ‘정리되지 않은 기계’라고 불렀으며 뇌의 뉴런에서 느슨하게 영감을 받았습니다.

그는 덧붙입니다…

“기계는 매우 빈번하게 나를 놀라게합니다.”

“학습 기계의 중요한 특징은 교사가 내부에서 일어나는 일에 대해 대부분 무지하다는 것입니다.” — Alan Turing, “Computing Machinery and Intelligence”, 1950

그리고 바로 여기에 머신 러닝 알고리즘 사용의 가장 큰 위험이있을 수 있습니다. 특히 중요한 상황에서의 알고리즘 의사 결정 , 그리고 부분적으로 오늘날 우리가 문제를 겪고있는 이유와 관련하여 — 훈련 된 알고리즘이 어떻게 작동할지 예측할 수 없기 때문입니다. 책임을 져야합니다.

그러나 동시에 이것은 기계 학습 시스템의 가장 큰 장점이기도합니다. 이것이 기계가 잠재적으로 우리를 새로운 장소로 이끌고 다른 방법으로는 볼 수없는 것을 볼 수 있도록 할 수있는 방법입니다.

Higs Boson을 확인하기 위해 페타 바이트의 데이터 중에서 약 126 GeV에서 작은 섭동을 찾는 것과 같습니다.

또는 의 청각 장애가있는 배경 소음 사이에서 1 초도 걸리지 않는 우는 소리를 분리하여 10 억 년 전에 충돌 한 두 개의 블랙홀에서 방출 된 중력파의 잔재를 식별합니다.

그리고 가까운 장래의 언젠가는 백혈병이나 알츠하이머 치료법을 찾는 데 도움이 될지 누가 알겠습니까? 아니면 광합성을 통해 직접 실행되는 바이오 카를 만드는 것과 같이 내가 헤아릴 수조차없는 미친 일들 일 수도 있습니다. 또는 광합성을 위해 자신 을 유전자 변형하는 경우도 있습니다. 얼마나 미친 듯이 놀랍습니까!? (물론 계획대로 작동한다고 가정).

누가 이것을 만들고 있습니까? 누가 미래를 만들고 있습니까?

하지만 가장 중요한 질문은 이러한 기술을 개발하고 배포하는 사람들이 자신이하는 일이 사회적으로 미치는 영향을 더 많이 예측할 수 있다는 것입니다. 아니면 예측할 수 가능 하더라도 귀하의 최선의 이익과 일치합니까? 그들이 내리는 결정이 당신이 승인하거나 바라는 방향과 일치합니까? 어떤 종류의 이 있습니까? 그들이 당신을 대표합니까? 그리고 당신의 웰빙?

이것이 바로 이러한 팀이 전문적이고 개인적인 경험, 관점, 가치, 지식 및 의견의 범위를 최대한 폭넓게 표현할 수 있도록 다양성을 가져야한다는 점입니다. 모든 사람의 목소리는이를 조정하는 데 매우 중요합니다. 따라서 몇 사람에게만 혜택을주는 방향 (종종 다른 사람에게 막대한 비용을들이는)뿐만 아니라 규정 준수 문화를 전파하는 방향으로 진전이 이루어집니다. 하지만 우리 모두에게 유익한 방향으로.