Methods-贸泽技术与解决方案杂志，及时了解技术创新与工程设计方面的重要资讯。
Issue link: https://trendsintech-korea.mouser.com/i/1540281
인식하고 있는 것으로 나타났습니다. 5 그러나 AI 모델은 인간에 의해 개발되며, 그 과정에서 다양한 결정이 이루어집니 다. 개발자는 어떤 데이터를 학습에 사용 할지 선택하고, 결과에 영향을 미칠 수 있 는 여러 가지 절충을 결정합니다. 이러한 이유로, AI는 본질적으로 중립적일 수 없으며, 그 설계와 운영에 인간의 의도 가 반영될 수밖에 없습니다. AI 개발에 사용되는 다양한 성능 지표들 은 서로 충돌하는 경우가 많아, 개발자들 이 윤리적인 판단임을 인식하지 못한 채 기술 속에 선택을 내재화하는 결과를 낳 습니다. 특히 공공 기관은 자신들이 도입하는 기 술이 어떤 영향을 미칠 수 있는지를 신중 히 고려해야 합니다. 예를 들어, 경찰청은 얼굴 인식 애플리케이션이나 범죄 발생 가능 지역을 예측한다고 주장하는 시스템 을 도입하기 전에 어떤 절차를 거치는가? 경찰관들이 이 기술을 사용하기 전에 어 떤 훈련을 받는가? 우리는 이러한 질문들 을, 우리를 대신해 시스템을 운영하는 기 관들에 반드시 물어야 합니다. 그럼에도 불구하고, 우리 사회의 AI 에 대한 열풍은 지속되고 있습니다. 《와이어드(WIRED)》 매거진과 라이트하우스 리포트(Lighthouse Reports)는 네덜란드 로테르담 시에서 복지 사기를 탐지하기 위해 사용된 알고리즘 기반 머신 러닝 시스템에 대해 공동 조사를 진행했습니다. 6 두 기관은 해당 시스템의 결과를 분석한 뒤, 이 모델이 실제 사기를 가려내는 데 있어 무작위 추측과 별다른 차이를 보이지 않는다는 결론을 내렸습니다. 이는 알고리즘 내의 편향으로 인해 특정 집단이 차별에 노출될 수 있음을 의미합니다. 로테르담 시는 이후 해당 복지 사기 탐지 시스템의 운영을 중단했지만, 이와 유사한 시스템들은 전 세계 여러 정 부 기관에서 여전히 사용되고 있으며, 시 민들은 그 존재조차 제대로 알지 못하는 경우가 많습니다. 7 노스캐롤라이나 주립대학교(North Carolina State University)의 가족 및 지역사회 참여 센터(Center for Family and Community Engagement) 역시, AI 기반 의사결정이 편향된 학습 데이터와 개발자의 무의식적 편향 때문에 차별을 지속시킬 수 있으며, 이는 구조적인 불평등을 강화해 취약한 공동체에 피해를 줄 수 있다고 지적했습니다. 8 불공정한 위험 평가, 데이터 프라이버시 문제, 인간의 감독 부재와 같은 요소들은 심각 한 윤리적 고려사항을 불러일으킵니다. 그럼에도 불구하고, AI는 행정 업무를 간소화하고 사회복지사의 과중한 업무 부담을 줄임으로써 아동 복지 시스템을 개선할 가능성도 갖고 있습니다. 중요한 과제는 AI가 윤리적으로 도입되도록 보장하는 것입니다. 편향을 방지하고 취 약 계층을 보호하기 위해서는 철저한 감 독과 안전장치가 필요합니다. 노스캐롤라 이나 주립대의 'EASE (Embedding AI in Society Ethically)' 센터와 같은 이니 셔티브는 이러한 문제를 해결하고, 아동 복지와 같은 사회 제도 내에서 AI의 책임 있는 통합을 촉진하는 데 중요한 역할을 하고 있습니다. 윤리적인 AI의 약속 책임감 있게 개발되고 활용될 경우, AI는 여러 사회적 문제를 해결하는 데 중요한 역할을 할 수 있습니다. 의료 분야에서는 AI가 베트남의 결핵 진단 방식을 혁신했 습니다. 기존의 선별 검사 기법에 첨단 알 고리즘을 결합함으로써, 더 빠르고 정확 한 진단이 가능해졌습니다. 9 결핵은 특히 고가의 의료 장비나 전문 인력이 부족한 외딴 지역에서 치료가 어렵습니다. 그러나 현재는 수백만 개의 짧은 기침 소리 데이터를 기반으로 학습된 첨단 기술을 표준 스마트폰에 탑재하여, 세계에서 가장 심각한 전염병 중 하나인 결핵을 조기에 탐지하고 있습니다. 이 기술은 단순히 사람들의 기 침 소리를 듣는 방식으로 작동합니다. 10 이와 마찬가지로, AI 기반의 신약 개발 도구는 생명을 구할 수 있는 약물을 더 빠르게 찾아내는 데 기여하고 있으며, 이는 공중보건의 미래를 근본적으로 변화 시킬 가능성을 보여줍니다. 11 항생제를 개 발하는 방법 중 하나는 세균의 DNA를 매 우 복잡하게 서열 분석하는 과정을 포함 합니다. 12 현재는 챗GPT(ChatGPT)와 같은 언어 모델에 기반한 기초 모델이 활 용되어, 항생제 내성에 점점 더 강해지는 박테리아에 효과적으로 대응할 수 있는 잠재적 약물 후보를 데이터베이스 형태로 구축하고 있습니다. 교육 분야에서도 AI는 긍정적인 역할을 하고 있습니다. AI 기반의 개인 맞춤형 학 습 플랫폼은 학습자의 수준과 필요에 맞춘 지도를 제공함으로써, 학생 간의 이해 격차를 해소하는 데 도움을 주고 있습니다. 이러한 도구들 이 인간의 감독과 결합될 때, AI는 형평성 과 발전을 증진하는 윤리적 가능성을 실 현할 수 있습니다.사라져가는 토착 언어 보존과 같은 다소 특수한 과제조차 최근 AI의 발전을 통해 혜택을 받을 수 있습니 다. 이러한 문제들은 일반적으로 주목을 받지 못하거나 해결을 위한 충분한 자금 지원을 받지 못하는 경우가 많습니다.그 러나 AI 도구를 활용하면, 과학자와 활동 가들은 세상이 더 "중요한" 문제에만 집 중하더라도 자신들에게 의미 있는 이슈들을 주도적으로 해결해 나갈 수 있습니다. | 26