계간 창작과비평

창비주간논평

인공지능이 가져오는 인지생태계의 변화

김성우

인공지능이라는 강력한 정보도구의 확산은 정보생태계를 급격히 변화시키고, 이는 다시 우리의 인지생태계 즉 생각하고 느끼고 판단하는 환경과 조건에 변화를 불러온다. 인지심리학자 엘리너 로쉬(Eleanor Rosch)는 인지생태계의 주요 구성요소를 지각과 주의, 나아가 행위주체성, 욕망, 그리고 자아로 구분한다. 처음 두 요소를 인지적 차원의 변화, 뒤의 세 요소를 존재론적 차원의 변화라고 부를 수 있을 것이다. 인공지능이 이 두 영역을 어떻게 변화시키는지 간략히 살펴보자.

먼저 지각(perception)이다. 예전에는 검색엔진을 통해 정보를 ‘찾아갔지만’ 최근 몇년간 프롬프트를 통해 ‘불러들이는’ 방식이 확산되고 있다. 예컨대 여러 사이트를 돌며 발표자료에 넣을 그림을 찾는 노동이 사라지고 이제는 요구에 맞는 이미지를 ‘제자리에서’ 생성한다. 지각의 대상이 ‘이미 존재하는 것’에서 ‘직접 생성한 것’으로 변화한다. 텍스트 영역에 국한하자면 구체적인 타자의 저작에 접근하기보다는 수많은 데이터의 축적을 통계적으로 처리한 언어연쇄만을 만나게 되는 셈이다. 다음으로는 주의(attention)다. 인공지능은 그 작동원리에서부터 사용자의 주의를 붙잡게 되어 있다. 계속해서 비위를 맞추거나 끝없이 대화를 이어가는 것, “이것도 도와드릴까요?”와 같은 솔깃한 제안을 연이어 내놓는 것은 우리의 인지자원을 계속해서 인공지능의 영역 안으로 끌어다놓는다. 사용자는 한 과제에 더 깊이 몰입하기보다는 여러 과제 사이를 오간다. 시시각각 분산되는 주의는 더 세밀하고 숨 가쁘게 분배된다. 생산성과 효율성이 올라가는 만큼 ‘주의의 주인’은 인간이 아닌 인공지능 플랫폼이 된다.

행위주체성(agency)의 개념도 변모한다. 최근까지만 해도 글을 쓰고 음악을 만드는 등 창작행위의 주체는 인간이었다. 이제는 인공지능이 그 역할을 수행한다. 인공지능과의 협업으로 만든 산출물은 더이상 개인의 단독 저작으로 인정하기 어렵다. 창작의 주체가 인간에서 ‘인간+인공지능’으로 변화함에 따라 저자성(authorship)을 정의하는 요건에 대한 논쟁이 벌어지고 있다. 다음으로는 욕망(desire)의 영역이다. 인간의 욕망은 환경과 조건에 따라 역동적으로 변화한다. 만족과 불만족 또한 고정된 기준으로 갈리지 않는다. 환경과 상호작용하는 데 있어 기준으로 삼는 참조점에 따라 충족과 결핍을 판단하기 때문이다. 현재의 인공지능은 이 참조점을 빠르게 재설정하고 있다. 새로운 모델이 나올 때마다 참조점은 계속 움직인다. 오늘의 ‘최적’이 내일의 ‘보통’이 되기 일쑤다. 사람들은 이미 확보한 ‘보통’의 상태에서 벗어나는 순간 큰 손실을 입은 것처럼 느낀다. ‘과제시 인공지능 사용 금지’ 조건이 부당하게 느껴지는 것도 이 때문이다. 주목해야 할 것은 욕망의 기준점이 자기 자신으로 이동하고 있는 현상이다. ‘나의, 나에 의한, 나를 위한 인공지능 시스템’을 원하는 욕망이 사회 곳곳에서 배태되고 있음이 감지된다. 마지막으로 자아(self)다. 사회문화적 환경 속에서 상호작용하는 타자는 자아의 형성에 결정적인 역할을 한다. 인공지능 챗봇은 공감을 표하고 조언을 제공하며 관계적 자아의 중요한 파트너로 자리잡았다. 특히 성장기 아동에게는 인공지능의 ‘한없이 다정하며 친절한 응답’이 갈등과 조율을 수반하는 주변인들과의 상호작용보다 훨씬 더 매력적으로 다가갈 수 있다. ‘자신’을 기준으로 구성되어 마찰과 충돌이 거의 존재하지 않는 ‘매끈한’ 관계에 익숙해진 아동은 가족이나 친구, 선생님 같은 사회구성원들과의 ‘울퉁불퉁한’ 소통에서 어떤 문제에 봉착하게 될까? 교육과 돌봄, 관계성의 발달에 미치는 인공지능의 영향을 고려할 때 피할 수 없는 질문이다.

이처럼 인공지능이 우리의 인지생태계를 전방위적으로 변화시키는 지금, 인공지능 리터러시는 모두를 위한 필수교양이 되었다. 그런데 이에 대한 논의는 인공지능을 어떻게 잘 활용할 것인가에 집중된다. 이는 필자가 ‘기능적 인공지능 리터러시’라고 부르는 것으로, 어떤 맥락에서 어떤 인공지능 도구를 어떻게 사용할 것인가에 대한 지식과 역량을 의미한다. 이 지점에서 세간의 접근이 놓치고 있는 것이 있다. 바로 ‘언제 인공지능을 사용하지 않아야 할까’를 판단하는 역량이다. 모든 영역에서 인공지능을 사용할 필요가 없음을 명확히 인식하고, 때때로 인공지능과 거리를 두는 역량 말이다. 인공지능이 생태계 파괴와 제3세계 노동자들의 착취 위에서 지어지는 현실 속에서 ‘어떻게 사용하지 않을 것인가’가 ‘어떻게 사용할 것인가’ 만큼 중요하다는 점을 잊어서는 안 된다.

더불어 ‘비판적 인공지능 리터러시’가 요구된다. 도구를 다루는 능숙함이 곧 삶의 현명함은 아니다. 데이터 주권, 노동시장의 재편, 생태적 비용, 플랫폼 권력과 알고리즘 편향, 인공지능으로 인한 불평등의 심화를 꿰뚫어볼 수 있어야 한다. 화려한 도구의 활용에 주의를 빼앗겨 사회문화적·정치적·생태적 영향을 간과해서는 안 되는 것이다. 무엇보다 우리 자신이 사용자이며 소비자이기 이전에 ‘시민’이며 행성의 다양한 존재와 공존해야만 하는 ‘인간종’의 일원임을 인식해야 한다.

마지막으로 ‘성찰적 인공지능 리터러시’가 필요하다. 인공지능은 효율성·생산성 증대기계로만 작동하지 않는다. 우리의 태도와 미감, 관계와 존재양식을 바꾸기 때문이다. 앞서 살폈듯 인공지능은 인간의 지각과 인지, 욕망과 자아를 휘저어놓는다. 이 가운데 우리는 끊임없이 새로운 존재로 ‘주조된다’. 이 변화를 민감하게 포착하고 그 영향을 비판적·성찰적으로 돌아볼 역량을 갖추지 못하면 금세 빅테크가 만들어놓은 참조점을 자기 삶의 기준으로 삼게 될 것이다. 편리함을 좇으려다 주체성까지 내다버리는 우를 범해서는 안 된다. 리터러시를 도구로서의 인공지능에 가두어둔다면, 빅테크 기업은 우리의 인지와 존재양태를 자신의 목표와 알고리즘으로 서서히 길들여갈 것이다. 이에 저항하면서 인공지능과 지혜롭게 공존하려면, 인공지능 기술을 인간뿐 아니라 다양한 비인간 존재, 나아가 행성의 관점에서 비판적으로 이해하고, 개개인과 공동체를 변화시키는 인공지능 에이전트의 영향을 면밀히 성찰해야 한다. 더 나은 삶과 사회를 위한 인공지능을 만들기 위해 우리 모두의 실천이 요구되는 때다.

김성우 / 응용언어학자