Methods-贸泽技术与解决方案杂志，及时了解技术创新与工程设计方面的重要资讯。
Issue link: https://trendsintech-korea.mouser.com/i/1540281
AI의 윤리적 딜레마 재조명 글/카일 덴트(Kyle Dent), 마우저 일렉트로닉스 2021년 《Methods》 저널의 한 특집호에서는 인공지능(AI)이 가져올 막대한 이익 가능성과 그에 따르는 리스크 사이에서 사회가 어떻게 균형을 잡아야 하는지를 다뤘습니다. 우리는 이 새로운 기술을 맞이하며, 그것이 사회에 미칠 영향에 대해 거시적인 질문을 던지고, 새로운 도구가 가진 한계를 신중히 살펴볼 필요가 있다고 제안했습니다. 그로부터 얼마 지나지 않아, 상상할 수 없을 정도로 방대한 데이터셋을 기반으로 학습된 생성형 AI가 등장했고, AI에 대한 담론을 완전히 장악하게 되었습니다. AI에 열광하는 이들은 이 기술이 세상을 바꿀 수 있는 활용처를 찾기 위해 앞다투어 나서고 있습니다. 지금 벌어지고 있는 이러한 기술의 확산과 모든 분야에 적용하려는 움직임은, 우리가 처음에 생각했던 신중하고 균형 잡힌 접근 방식과는 확연히 다릅니다. 최근 AI의 발전은 윤리적 딜레마를 더욱 심화시키고 있습니다. 우리는 어떻게 해야 이 기술이 지닌 막대한 긍정적 가능성을 활용하면서 동시에 그로 인한 피해 가능성을 최소화할 수 있을까요? AI가 빠르게 확산되면서, 혁신이 신중한 숙고보다 우선시되는 경향이 강해지고 있습니다. 이러한 상황에서 현실 세계에 미칠 수 있는 영향을 간과하지 않기 위해서는 절제된 태도와 윤리적인 접근이 그 어느 때보다 중요합니다. AI 배포의 윤리적 위험 이러한 모델은 질문에 답변하고, 논문이나 기사 작성, 새로운 예술 작품 생성, 복잡한 수학 및 논리 문제 해결까지 가능하게 합니다. 생성형 AI(gen AI) 가 지닌 가능성은 분명하지만, 이를현실 세계에 서둘러 적용하면서 다양한 문제도 발생하고 있습니다.충분한 감독 없이 생성 형 AI를 사용하는것은 중대한 윤리적 문제 를 야기할 수 있습니다. 예를 들어, 오픈AI 는자사의 음성 인식 전사 도구인 위스퍼 (Whisper)를 "인간 수준에 근접한견고함 과 정확성"을 갖춘 도구로홍보하고 있습 니다. 1 위스퍼는 뛰어난음성-텍스트 전환 능력을 보여주지만,실제로 말하지 않은 내 용을 지어내는오류도 발생시킨 바 있습니 다. 2 이른바 'AI 환각(hallucination)'이라 불리는현상은 LLM과의 모든 상호작용에 서발생할 수 있습니다. 그 문제의 범위는 아직 명확히 파악되지 않았지만, 2023년 코넬대학교에서 수행한연구에 따르면, 위 스퍼 애플리케이션프로그래밍 인터페이스 (API)를 통해처리된 13,140개의 오디오 샘플 중1.4%에서 환각 현상이 나타났습 니다.이 중 38%는 폭력적인 내용, 허구의 이름 또는 부정확한 정보, 오디오에언급되 지 않은 웹사이트 등을 포함하고있었습니 다. 3 이러한 결함이 잘 알려져있음에도 불 구하고, 병원이나 기타 중요한 기관들은 기술 도입에 따른 결과를 충분히 고려하 지 않은 채 위스퍼와 같은 도구를 계속해 서 도입하고 있습니다. 언론 산업 역시 경고의 사례가 될 수 있습니다. 운영 효율성을 높이기 위해 많은 기자들과 편집자들이 예상보다 빠른 속도로 이 기술을 도입하고 있습니 다. 그러나 실제로 시간이 절약되는지는 불분명합니다. 신뢰할 수 있는 언론 기관 이라면 AI 가 생성한 결과물에 대해 팩트 체크를하 느라, 결국 기존의 자료 조사와비슷한 시 간을 소요하기 때문입니다.신뢰도가 낮은 일부 언론 기관들은전적으로 AI가 작성한 기사를 게재했다가,그 안에 허위 정보가 포함되어 있다는이유로 이를 뒤늦게 철회 한 사례도있습니다. 4 이러한 사례는 명백 한윤리적 문제를 드러냅니다. 엄격한 감독 없이 이러한 도구를 사용할 경우,공 공기관이나 언론과 같은 핵심 기관에대한 대중의 신뢰를 해칠 수 있습니다. 한편, 전통적인 AI 모델들은 여전히 인간 의 삶에 중대한 영향을 미치는 결정에 사 용되고 있습니다. 여기에는 직무 성과 평 가, 채용, 대출 심사, 형사 사법 등의 영역 이 포함됩니다. 2024년 벤틀리 대학교 (Bentley University)와 갤럽(Gallup)이 공동 실시한 설문조사에 따르면, 미국 응 답자의 56%는 AI 도구를 본질적으로 중 립적인 존재로 23 |