인공지능과 우리의 미래

 

농부들과 인공지능, 새로운 연결

농업과 인공지능은 언뜻 보면 전혀 관련이 없어 보입니다. 그러나 현대 농업은 기술의 도움 없이는 상상하기 힘든 시대가 되었습니다. 예를 들어, 컴퓨터 비전 기술은 농작물 수확량을 예측하는 데 사용되며, 인공지능은 해충을 탐지하고, 식별하고, 관리하는 데 중요한 역할을 합니다. 또한 예측 분석 기술은 가뭄이나 허리케인 같은 극단적인 기상 조건을 파악하는 데 도움을 줍니다.

기술이 농부들에게 안긴 소외감

하지만 기술의 발전이 항상 긍정적인 결과만을 가져오는 것은 아닙니다. 2017년, 트랙터 회사인 존 디어가 '스마트 트랙터'를 출시하면서 농부들은 더 이상 자신들의 트랙터를 수리할 수 없게 되었습니다. 기술자 면허를 받은 전문가만이 수리를 할 수 있도록 제한되었고, 농부들은 필수적인 수리를 기다리는 동안 농작물이 손상되거나 해충이 급증하는 것을 막지 못하게 되었습니다.

결국 농부들은 스스로 문제를 해결하기 시작했습니다. 일부는 프로그래밍을 배우고 해커들과 협력하여 자신들만의 소프트웨어 패치를 만들어 트랙터를 수리했습니다. 이와 관련하여 2022년 DEFCON이라는 해커 컨퍼런스에서는 존 디어 트랙터의 시스템에 접근하는 방법이 공개되기도 했습니다. 이는 기술의 취약성을 드러냄과 동시에 개인이 자신의 장비를 소유하고 관리할 권리를 주장하는 움직임을 나타냅니다.

수리할 권리 운동

이와 같은 맥락에서 '수리할 권리'라는 운동이 탄생했습니다. 수리할 권리란 간단히 말해, 사용자가 소유한 기술 장비를 스스로 수리하거나 원하는 방식으로 사용할 권리를 의미합니다. 이 운동은 단순히 농업 장비에만 국한되지 않습니다. 스마트폰, 세탁기, 심지어 전동 칫솔에 이르기까지 모든 기술 장비에 적용됩니다.

수리할 권리는 단순히 물리적 장비를 넘어서 인공지능 시스템에도 적용될 필요가 있습니다. 우리는 AI 기술이 우리의 일상과 사회에 점점 더 깊이 들어오고 있는 상황에서 이러한 권리를 더욱 중요하게 여겨야 합니다.

AI 기술에 대한 신뢰의 문제

현대의 인공지능 기술은 매주 놀라운 혁신을 보여주고 있지만, 대중의 신뢰는 점점 떨어지고 있습니다. Pew 연구에 따르면, 기술에 대해 기대보다는 우려를 가진 사람이 많아지고 있다고 합니다. 이는 중남미와 아프리카에서도 동일하게 나타나고 있습니다. 많은 사람들은 AI가 득보다 실이 많을 것이라고 생각합니다.

이러한 신뢰 부족은 사람들이 자신의 데이터가 허가 없이 수집되고, 시스템이 삶의 중요한 결정을 내리는 데 사용된다는 사실을 알기 때문입니다. 그러나 문제는 사람들이 이러한 시스템의 작동 방식을 이해하지 못하고, 문제가 발생했을 때 어떻게 대처해야 할지 모른다는 데 있습니다.

AI 시스템의 책임성과 투명성

AI 시스템은 점차 우리 삶을 지배하고 있습니다. 따라서 우리는 이러한 시스템의 설계와 작동 방식에 대한 더 나은 피드백 루프가 필요합니다. 이와 관련하여 '레드 팀 구성(Red Teaming)'이라는 접근법이 중요합니다. 이는 군사 및 사이버 보안 분야에서 시작된 관행으로, 외부 전문가가 시스템의 취약점을 찾아내고 이를 개선하는 방식입니다.

예를 들어, AI 모델이 잘못된 정보를 보여주거나 현실을 왜곡하는 경우가 있습니다. 이를 발견하고 수정하기 위해 다양한 전문가와 협력해야 합니다. 이러한 과정에서 AI 모델의 한계를 이해하고, 더 많은 사람들에게 더 나은 결과를 제공할 수 있도록 조정해야 합니다.

AI와 다양한 분야의 협력 사례

런던의 왕립 학회에서는 질병 과학자들과 함께 AI가 COVID-19와 관련된 잘못된 정보를 막는 데 효과적이라는 사실을 발견했습니다. 그러나 다른 질병에는 동일한 보호 기능이 적용되지 않았습니다. 이를 통해 AI 시스템이 특정 상황에서만 효과적일 수 있다는 점을 깨달았습니다.

건축가들과의 협력에서는 AI가 단순히 설계를 돕는 도구가 아니라, 더 나아가 피드백을 제공하고 설계 권장 사항을 제안할 수 있어야 한다는 점이 강조되었습니다. 하지만 건축가들은 이러한 AI 시스템을 신뢰할 수 있는가에 대한 우려를 표했습니다. 이는 단순히 기술적인 문제가 아니라 책임과 신뢰의 문제입니다.

AI와 인간의 공존을 위한 방향

차세대 인공지능 시스템인 에이전트 AI는 인간의 주체성을 유지하면서도 우리의 삶을 보조할 수 있어야 합니다. 예를 들어, 의료 AI는 진단을 돕거나, 응급 상황에서 의료 기록을 제공하는 등 유용한 역할을 할 수 있습니다. 하지만 이러한 AI가 신뢰를 얻으려면 사용자가 시스템을 이해하고 수정할 수 있는 권리가 보장되어야 합니다.

이를 위해 우리는 진단 도구와 같은 기본적인 수단을 제공하고, 시스템 문제를 해결할 수 있는 피드백 메커니즘을 구축해야 합니다. 또한, 윤리적 해커와 같은 제3자와 협력하여 AI 시스템을 개선할 수 있도록 해야 합니다.

결론: 사람 중심의 AI 개발

AI 기술은 사람들의 삶을 더 나은 방향으로 바꿀 수 있는 잠재력을 가지고 있습니다. 하지만 이를 위해서는 기술 개발자와 사용자 간의 신뢰를 구축하고, 사람들이 기술의 혜택을 충분히 누릴 수 있는 환경을 만들어야 합니다. 수리할 권리는 이러한 과정에서 중요한 역할을 합니다.

궁극적으로 AI의 성공은 기술 자체의 우수성이 아니라, 사람들이 이를 얼마나 유용하게 활용할 수 있는지에 달려 있습니다. 기술은 인간의 필요와 가치를 중심으로 설계되어야 하며, 이를 통해 우리는 더 나은 미래를 만들 수 있을 것입니다.

감사합니다.