미래 지능형 기술발전과 관련한 주요 핵심 동인으로
@ 지능형 기술사용에 따른 윤리적 문제에 관한 관심과 기술신뢰(Social, 사회)
@ 통신 및 네트워크 기술발전과 시스템 탈중앙화(Technological, 기술), @ 기술진보를 뒷받침하는 생태계(산업 및 시장구조) 형성(Economic, 경제)
@ 환경 모니터링 기술발전과 에너지 효율성 개선(Environ- mental, 환경)
@ 공정하고 투명한 기술활용 지원체계(Policy, 정책)를 선정
사회 / 기술 / 경제 / 환경 / 정책
예로 지능형 기술발전 관련 주요 동인 중 '지능형 기술사용에 따른 윤리적 문제에 관한 관심과 기술 신뢰'가 선정된 점은 데이터 및 AI 기술개발•활용에서의 윤리적 가치 정립과 실현을 통한 기술신뢰 형성이 미래 사회 모습을 결정짓는 핵심 요소임을 시사함
미래 생활공간 변화와 관련한 주요 핵심 동인으로서
@ 사회문화적 다양성과 포용성(Social, 사회)
@ 원격환경에서의 건강/생활 관리(Technological, 기술)
@ 지역 내 지식 커뮤니티 형성과 사회적 자본 축적(Economic, 경제)
@ 기후변화에 따른 거주환경 취약성(Environmental, 환경)
@ 사회보장체계와 형평성을 위한 정책 간 연계성(Policy, 정책)을 선정 (P.6)
<테크노크라시 주도 신뢰사회: 빅테크 기업들의 지배 아래 형성된 초연결 초지능 사회>
(기회: 알고리즘 국가의 출현 가능성) '알고리즘 국가'는 디지털 기술과 알고리즘의 활용이 국가 운영과 사회 정책 결정 과정에서 중요한 역할을 하는 국가를 의미하며, 이러한 기술-정치체제' 출현이 가속화될 가능성이 있음(박성원 & 김유빈, 2021)
- 데이터와 알고리즘 기반의 효율적인 거버넌스 모델이 등장하며, 이는 공공 서비스의 질을 높이고 정책 결정 과정에서의 투명성과 공정성을 강화하는 방향으로 전개
데이터와 알고리즘 기반이 효율적인 국가운영과 사회정책결정과정을 돕는다고 볼수 있는 것인가? 알고리즘에 의한 문제점, 편향적 선택. 이를 효율적으로 사용하기 위한 준비는 어떤 것들이 필요한지에 대한 논의필요
(도전: 빅테크 리스크의 글로벌화 가능성) 빅테크 기업들의 데이터 독점, 시장지배력 남용, 프라이버시 침해 등은 국가 경계를 넘어 글로벌 차원에서 사회적, 경제적, 정치적 문제를 야기할 수 있음
- 이러한 리스크는 국제적 협력과 강화된 규제체계를 통해 관리되어야 할 필요 (P.10)
기술은 언제나 정책과 규제를 앞서 나가는 만큼, 선제적인 준비가 필요하고 해당 기술을 개발 및 활용하는 기업들에게 자발적인 가이드라인 형성과 사회적 공유가 필요 (AI기술에 열광하는 분위기만큼 해당 기술의 문제를 사전에 방지하기 위한 노력을 충분하고 있는지 의문)
- 정보의 소유와 접근성에 기반한 권력 격차는 빅테크 기업과 같은 주요 주체들이 사회적, 경제적 영향력을 더욱 공고히 하는 결과를 낳을 수 있음
- 디지털 도구와 플랫폼을 통한 빠른 정보의 유통과 의견 교환은 민주주의적 참여를 촉진할 수 있는 잠재력을 가지고 있지만, 동시에 집단 극화, 정보 거품, 개인정보의 남용과 같은 위험도 내포하고 있으며, 이는 정치적 극단주의의 확산이나 정치적 분열을 심화시킬 수 있음 (P.11)
이미 현재 진행형의 문제점들이고, 미래결과적이라고 보기에 이미 심화단계에 접어들었다고 볼수 있음.
(미래 사회 시나리오 2: 협동적 다원주의 사회) 2050년의 '협동적 다원주의 사회'는 다양성과 협업, 조화를 기반으로 하는 디지털 생활공간이 주된 특징이며, 이 사회는 지능형 기술발전으로 인한 윤리적 문제가 해결되어, 기술에 대한 신뢰가 구축되고 포용적인 협업과 조화가 일상화된 모습을 보여줌> p.13
(미래 사회 시나리오 3: 파편화된 균열과 분열 사회) 2050년 '파편화된 균열과 분열 사회'는 기술발전의 양면성이 드러나며 기술발전에 따른 윤리적 이슈 미해결 등에 따른 기술신뢰 약화, 그리고 분산화된 경제 및 사회시스템이 기반이 된 모습으로 전개 p.14
* (도전: 기술과 윤리 간 딜레마 확대) 사람들은 다양한 디지털 및 아날로그 기술을 병행하여 사용하지만, 이 과정에서 AI를 비롯한 지능형 기술이 윤리적 문제를 해결하지 못하고 오히려 사회적 편향과 차별을 심화시킴으로써 기술에 대한 신뢰가 크게 약화
- 이는 사회 전반에 걸쳐 기술에 대한 불신을 촉진하며, 기술발전과 사회적 진보 사이의 긴장을 증대시킬 가능성이 있음
- 기술에 대한 신뢰가 약화되고 기술 딜레마 및 관련 법/규제 지체 등으로 인해 산업 전반의 기술혁신이 지체될 수 있음
AI 관련 예산은 급증하고 있으나, 그에 상응하는 가이드라인과 규제에 대해서 대비하지 않는다면 오히려 사회적으로 손해에 가까울 것, 이미 기술은 각종에 범죄에 활용되고 있으며 이는 성범죄뿐만 아니라 정치적으로 활용되며 사회적 혼란을 야기하고 있는 상황. 왜 이러한 충분히 예상 가능한 문제들에게 대해서 우리는 대비하지 못하는 걸까 혹은 대비하지 않는것일까.
* (도전: 탈성장론 및 새로운 사회 발전모델에 대한 요구) 기술발전에 따른 다양한 부작용과 문제점 해결에 적시에 이뤄지지 않고 누적됨에 따라, 환경적, 사회적 가치를 중시한 새로운 '성장 모델'에 대한 요구가 확대
* (도전: 사회적 분열과 초분열 사회 등장) 기술신뢰 약화와 윤리적 모호성은 초연결사회의 잠재적 위험을 인식시키며, 그에 따라 사회는 초분열로 나아갈 가능성이 있음
- 이러한 초분열은 개인 간의 관계뿐만 아니라, 집단 간, 인간과 기술, 그리고 기술 간 관계 등에서도 나타나며, 경제사회시스템 전반의 불안정성이 증대될 잠재성이 있음 p.15
* (도전: 정보 과부하와 디스인포메이션의 확산) 디지털 공간의 정보 과부하는 개인이 신뢰할 수 있는 정보를 찾고, 가치 있는 관계를 구분하는 데 어려움을 겪게 함
- 이는 의사결정에 있어 불안정성을 증가시키고, 정보의 질에 대한 신뢰를 하락시킴
- 가짜뉴스와 디스인포메이션 확산은 온라인 커뮤니티 내 신뢰도를 저하하며 개인과 집단 간 대립을 심화시킴. 이는 사회적 결속력을 약화시키고 집단 간 갈등을 증가시킴
* (도전: 민주주의와 공론형성의 어려움) 기술적 신뢰의 약화와 규제의 지체는 민주주의 제도에 새로운 도전을 제시할 가능성이 있음
- 정보의 분산화와 신뢰도 약화, 다양한 소셜 미디어 및 커뮤니티의 영향력 증대는 공론형성의 어려움을 낳으며, 이는 사회적 합의 도출과 문제해결 과정을 복잡하게 만듦
- 공동체 및 사회 내 의사결정과정이 파편화되고 통합된 목소리 형성이 어려워짐 p.16
위에서 제시된 내용들이 미래의 시점으로 바라볼 수 있는 것들이라고 할 수 있는가. 이미 직면하고 있고 인식하고 있는 문제들. 인공지능 기술이 있기 전부터 존재해왔던 문제들이나 그것을 기하급수적으로 악화시키는 수단으로 활용될 수 밖에 없는 현실. 딥페이크 기술과 음성을 카피하는 기술이 인류 전체에게 이점을 주는 것이라고 할 수 있는가.
자본을 가진 기업들에게 기술이라는 이름 아래 한 개인의, 인간의 고유함을 도둑질 할 수 있도록 정당화 하고 있는 것을 아닐까 싶은 생각. 기술의 발전을 막을 수는 없지만 우리가 그 기술을 활용하는 것과 그 활용(결국 공공재:인간 개인과 집단이 만들어 놓은 정보와 소스들)에 대한 비용지불이 전체 사회에 돌아갈 수 있도록 방향을 만들어 놓아야 할 시기.
* 미래 사회 시나리오 4; 배타적 지능솔루션주의 사회) 2050년 '배타적 지능솔루션주의 사회'는 기술에 대한 신뢰 약화, 초연결 중앙집중형 네트워크 기반 생태계, 빅테크 중심 생태계, 전통적 에너지 인프라의 개선 및 확장, 기술 딜레마 및 법/규제 지체, 그리고 분절적 복지 시스템 등을 특징으로 하는 미래 시나리오
* '기술적 솔루션주의(Technological solutionism)'는 기술이 사회, 정치, 윤리 등 다양하고 복잡한 문제에 대한 해결책이나 만병통치약이 될 수 있다는 믿음이나 태도를 의미 p.16
* (도전: 기술(지능) 솔루션주의의 만연) 특정 사회적, 경제적, 또는 환경적 문제들이 기술의 발전과 적용을 통해 해결될 수 있다는 믿음이 지배적인 사회가 도래함에 따라 기술 중심 '솔루션주의'가 확대될 가능성이 있음
- 예로, 범죄 예방을 목적으로 한 감시 기술이 개인 프라이버시를 침해하고, 데이터 기반 판단과 의사결정이 편향을 초래하는 등 불공정한 결과를 낳을 위험이 있음
법원의 판결을 납득하지 못하는 많은 사람들이 판결에 대한 선고를 인공지능이 대신 내린는 것이 더욱 정확하고 객관적일 것이라고 이야기 함. 과연 그런가. 인간은 누구나 실수를 하는 존재이기 때문에 대화와 조정의 여지가 있고 그것이 기반이 되기에 우리는 논쟁하고 타협하고 반박과 확인을 통해 일종의 노력과정을 가지게 된다. 인공지능 기술은 기존의 정제되지 않은 데이터를 통해 학습하고 다양한 맥락과 판단과정에서 고려해야 할 상황을 해석하기에 충분하지 않다. 수학적인 공식이 있고 정해지 답이 아닌 이상, 결정권을 인공지능에게 넘기는 결국 스스로 인간다움을 포기하는 것에 가깝다.
* (도전: 빅테크 중심 기술생태계 내 존 확대) 빅테크 기업의 지배력 강화와 신규 기업에 대한 투자위축은 혁신적 기업의 탄생을 어렵게 하며, 역동적 혁신생태계 조성과 효율적 자원 재배분에 제약조건으로 작용할 가능성이 높음
- 빅테크 기업들은 경쟁 신생 기업을 인수하거나, 유사한 서비스와 제품을 시장에 더 빠르고 효율적으로 출시함으로써 신생 기업의 시장 진입 기회를 차단하여, 시장 왜곡을 확대하고 소비자에게 더 나은 제품과 서비스를 제공하는 것을 억제할 수 있음
* (도전: 특정 계층 중심 권력 및 자원 독점 심화) 빅테크 기업의 시장 지배는 소수 이해관계자에게 경제적 이익을 집중시키는 결과를 낳음. 이는 사회 전반에 걸친 경제적 불평등을 심화시킬 수 있으며, 성장의 혜택이 고르게 분배되지 않는 문제를 야기
- 시민사회의 다양한 목소리는 그 발언권과 영향력을 얻기 어렵게 될 가능성이 존재
공정한 경쟁이 애초에 가능하도록, 특정집단에 쏠림이 발생하지 않도록, 하나의 생태계를 그려나갈 수 있도록, 국가차원에서 이를 책임져야 할 것. 중소기업 및 신생기업들에 대한 세제혜택 지원은 직접적인 세액공제가 아니라 연구개발과 산업 다각화와 고도화 노력에 대한 유도를 이끌어낼 수 있어야. 이미 대기업의 쏠림과 의존형성이 심한 한국 기업 생태계에서 더욱 심화될 가능성. 한국시장이 아닌 글로벌시장을 타켓으로 하는 기업들이 더욱 많아져야 함.
* (도전: 사회적 고립과 불안감 증대) 지능형 기술기반 솔루션에 지나치게 의존하는 사회에서는 인간관계와 커뮤니티의 역할이 약화될 수 있으며, 이는 개인의 사회적 고립과 불안감을 증가시킴
- 사회적 관계 형성은 동질적 집단과의 배타적 교류가 중심이 되어 이질적 집단에 대한 경계와 적대심이 높아질 가능성이 있음
* (도전: 기술에 대한 과도한 의존에 따른 사회적 혼란과 불안) 기술에 대한 과도한 의존과 무비판적 신뢰는 잘못된 정보나 오해가 증폭될 수 있는 환경을 만들어내며 이는 사회적 혼란과 불안을 초래할 수 있음
* (도전: 기술개발 및 활용에서의 책임성 부재와 신뢰 형성 제약) 과도한 규제 지체로 인해 기술이 불안정하게 도입되거나, 그 활용이 제한될 수 있음. 이는 사람들이 기술의 안전성과 신뢰성에 대한 확신을 잃게 만듦
- 이러한 상황에서 정부나 규제 기관 등에 대한 불신이 확대되며 공공정책의 효과성과 정부의 역할에 대해 의문을 제기할 수 있음
- 새로운 기술 도입이나 활용 시 발생할 수 있는 부작용에 대한 책임을 회피하는 경향이 만연할 가능성도 존재
기업에게 자율적이고 자정적인 노력을 기대할 수 있는가. 단기적인 이익에 치우쳐진 껌의 단물과 같은 성과만을 바라볼 것인가. 이미 수많은 환경규제로 대부분의 국내기업들이 수출에 제약받는 상황. 선제적으로 준비하지 않는다면 기업차원에서도 경제적 차원에서도 문제. 무엇보다 정치적 책임이란 사회적 안정을 도모하는 것.
* (도전: 저임금·불안정 노동의 확산과 집단/계층 간 갈등 확대) 빅테크 하의 긱 노동(gig-work)이 확산되어 일자리는 꾸준히 공급되지만, 저임금 미숙련 노동이 대다수이며 경력개발이 어렵고 불안정한 일자리가 확대될 가능성이 존재
- 불안정한 일자리, 분절적 복지로 인해 사회적 양극화가 심화되고 계층 이동성이 낮아지는 사회 구조가 고착화될 가능성이 있음
- 이로 인해 젠더, 세대, 국가, 인종 등 서로 다른 집단, 계층 간 긴장과 갈등이 심화
일자리의 문제....기술이 인간의 노동을 대체한다...그럼 인간은 무엇을 해야하는가...일자리가 없는데 높은 출생률은 요구하고....경제규모가 커지는 만큼 실질소득은 얼마나 증가하는지....인간을 대체하는 기술을 통해 막대한 경제적 이득을 취하는 집단을 위해 돈을 써줄 자본주의의 소비기계들을 원한다고 봐야 할까. 모든 문제의 해결은 개인으로 돌아가고, 인간과 생명 중심으로 돌아가야 하지 않을까.
* (도전: 기후변화 대응에 있어 제약과 기후 난민 문제 확대) 전통적 에너지 인프라의 개선과 확장 p18
우리가 기대해야하고 적극적의 신기술에 대한 활용과 적용을 고민해야하는 분야는 명확한데, 그 방향성을 충분히 제시하고 있는지 구체적으로 인공지능을 왜 우리가 그토록 개발해야하고 수많은 사람들과 생태계를 구할 수 있는 예산을 태워야 하는가. 도대체 왜? 그 이유에 대답할 시기
5. 경제적 이익의 공정한 분배를 위한 규제 및 사회적 안전망 마련
• 빅테크 규제 및 경쟁 촉진을 위한 제도개선과 규제체계 마련
• 시민 참여형 빅테크 감시 및 견제 장치 마련
• 통합된 사회적 안전망 보장체계 마련 및 확대
• 저소득층 및 취약계층을 위한 소득 지원 및 재교육 프로그램 등 확대
6. 민주주의와 공론형성 지원
• 건전한 공론형성을 위한 온라인 플랫폼 구축 및 관리체계 확립
• 가짜뉴스와 디스인포메이션에 대응하기 위한 미디어 리터러시 교육 강화 및 팩트체킹 시스템 확립
• 시민 참여 프로그램 확대 및 다양성의 조화를 추구하는 정책결정 거버넌스 체계 마련 p.23
나의 리뷰 대부분이 부정적인 내용들에 대한 비판적 접근이라는 점이 다소 신경쓰이지만, 내가 굳이 지적하지 않아도 이미 많은 사람들이 공감하고 있을 내용일 것. 성장신화과 끊임 없이 커져야하는 규모에 대한 집착이 만연한 현실에서, 혁신기술을 통해 경제적 이익을 위해 우리가, 전 세계가 이토록 인공지능에 미쳐 있다면, 그 미래에 누가 있어야 하는지, 어떤 사회가 있기를 바라는지 더욱 생각해봐야.
