로터의 통제 위치 이론(Locus of Control)과 책임감의 차이

알고리즘 혐오란 알고리즘의 편향된 평가로 정의되며, 인간 에이전트와 비교하여 알고리즘에 대한 부정적인 행동이나 태도로 나타나는 것입니다. 이 현상은 알고리즘이 인간에게서 온 경우에 같은 조언을 받아들이는 상황에서 인간이 조언이나 권고를 거부하는 경향을 나타냅니다. 알고리즘, 특히 기계학습법이나 인공지능(AI)을 활용한 알고리즘은 다양한 분야에서 의사결정에 있어 점점 더 큰 역할을 하고 있습니다. 예를 들면, 고객이 마음에 드는 제품을 특정하기 위한 전자 상거래에 있어서의 권장 시스템이나, 진단이나 치료의 결정을 지원하는 의료에 있어서의 AI 시스템 등이 있습니다. 많은 맥락에서 인간을 능가하는 능력이 증명되었음에도 불구하고 알고리즘의 권장 사항은 종종 저항이나 거부로 가득 차 비효율성이나 최적이 아닌 결과로 이어질 수 있습니다. 알고리즘 혐오 연구는 알고리즘이 우리의 일상생활에 점점 더 포함됨에 따라 중요합니다. 인식된 설명 책임, 투명성 결여, 기계적 판단에 대한 회의 같은 요소가 이 혐오감의 한 원인이 되고 있습니다. 반대로 개인이 인간의 권장보다 알고리즘의 조언을 신뢰하고 따를 가능성이 높은 시나리오도 있습니다. 이것은 알고리즘의 평가라고 불리는 현상입니다. 이러한 역학을 이해하는 것은 인간과 알고리즘의 상호작용을 개선하고 AI에 의한 의사결정 수용을 촉진하는 데 필수적입니다.

 

알고리즘 회피

알고리즘 혐오는 인간의 의사결정을 지원하거나 대체하기 위해 알고리즘이 사용되는 다양한 영역에서 나타납니다. 다음으로 다양한 콘텍스트의 예를 보여줍니다. 알고리즘적인 조언이나 결정에 저항하는 경향이 있는 상황을 강조합니다: 의료 환자들은 그러한 시스템의 정확성이 증명되고 있음에도 불구하고 종종 AI 기반 의료 진단이나 치료 권고에 저항합니다. 예를 들어, 환자는 인간 의사를 더 신뢰하는 경향이 있습니다. 왜냐하면 AI 시스템은 공감성이 부족하고 뉘앙스 있는 감정적 상호작용을 처리하는 능력이 부족하다고 인식하기 때문입니다. AI가 의료 의사결정에 더 큰 역할을 함에 따라 부정적인 감정이 생기기 쉽습니다. 채용·고용 채택에 사용되는 알고리즘 에이전트는 감정적인 지원이나 경력 개발 등의 관계적인 역할을 수행하는 능력이 낮은 것으로 인식되는 경우가 종종 있습니다. 급여 협상과 같은 거래 업무에서는 알고리즘이 신뢰를 받고 있지만, 인간 채용 담당자는 감정적인 수준에서 연결되는 능력을 인식하고 있기 때문에 관계 업무에 적합합니다. 소비자 행동 일반적으로 소비자는 알고리즘에 의해 이루어진 결정에 대해 인간에 의해 이루어진 결정에 대해 그다지 호의적인 반응을 보이지 않습니다. 예를 들어 결정이 긍정적인 결과를 가져올 경우 소비자는 알고리즘에 의한 결과라면 결과를 내면화하는 것을 어려워합니다. 반대로 부정적인 결과는 알고리즘에 의해 결정되었는지 인간에 의해 결정되었는지에 관계없이 유사한 반응을 이끌어내는 경향이 있습니다. 마케팅 콘텐츠 제작 마케팅 분야에서 AI 인플루언서는 제품 홍보에 있어 인간의 인플루언서만큼 효과적입니다. 그러나 소비자들은 종종 인간의 인플루언서를 더 진짜라고 인식하기 때문에 AI 주도 권장사항에 대한 신뢰 수준은 낮은 상태입니다. 마찬가지로 참가자들은 AI 콘텐츠의 품질이 인간이 만든 콘텐츠와 일치하거나 인간이 만든 콘텐츠를 넘어서도 AI가 만든 콘텐츠와 명시적으로 식별된 콘텐츠를 선호하는 경향이 있습니다. 문화적 차이 문화적 규범은 알고리즘 혐오에서 중요한 역할을 합니다. 미국과 같은 개인주의 문화에서는 자율성과 개인화된 의사결정을 중시하기 때문에 알고리즘적인 권고를 거부하는 경향이 높아지고 있습니다. 대조적으로 인도와 같은 집단주의 문화는 특히 알고리즘에 정통하거나 의사결정이 사회 규범에 부합하는 경우 혐오감이 낮아집니다. 도덕적·감정적 결단 윤리적 딜레마나 공감적 의사결정 등 도덕적 또는 감정적 판단을 수반하는 작업에서는 알고리즘의 신뢰성이 낮아집니다. 예를 들어 개인은 자율주행차 의사결정이나 의료상 생사의 상황 등 도덕적 이해관계가 높다고 인식하는 시나리오에서 알고리즘을 통한 의사결정을 거부할 수 있습니다.

 

알고리즘 회피 기반

메커니즘 알고리즘 혐오는 심리적 요인, 작업 관련 요인, 문화적 요인, 디자인 관련 요인의 조합에서 발생합니다. 이러한 메커니즘은 알고리즘의 성능이 인간의 의사결정보다 객관적으로 우수한 경우에도 알고리즘에 대한 개인의 부정적인 인식이나 행동을 형성하기 위해 상호작용합니다. 심리학적 메커니즘 지각 책임 개인은 인간의 조언과 비교하여 알고리즘적인 조언을 사용할 때 책임감이 높아지는 경우가 종종 있습니다. 이는 한 알고리즘이 비난을 공유하는 능력이 부족하기 때문에 결정이 실패할 경우 그들은 단독으로 책임을 진다는 믿음에서 유래합니다. 대조적으로, 인적 입력에 의한 의사결정은 보다 협력적인 것으로 인식되고, 책임성을 공유할 수 있습니다. 예를 들어 의료나 금융 자문처럼 오류 영향이 큰 분야에서는 사용자가 알고리즘 권장 사항에 의존할 가능성이 낮아집니다. 제어 궤적 내부 통제의 장을 가진 사람들은 결과에 직접적인 영향을 준다고 믿고 알고리즘을 신뢰하는 것을 더 꺼리고 있습니다. 그들은 알고리즘에 의한 의사결정이 자율성을 해치고, 보다 수정 가능성이나 개인적으로 느껴지는 인간의 입력을 선호한다고 인식하고 있을지도 모릅니다. 반대로 결과를 외부의 힘으로 돌려놓는 외부 컨트롤의 장을 가진 개인은 알고리즘을 중립적이고 효과적인 도구로 간주함으로써 알고리즘의 결정을 더 쉽게 받아들일 수 있습니다. 이러한 경향은 사용자가 에이전시를 유지하려는 의사결정의 맥락에서 특히 두드러집니다. 신경증 신경증이 있는 사람은 불안이나 불확실성에 대한 공포에 빠지기 쉽고 알고리즘을 신뢰할 가능성이 낮아집니다. 이 혐오감은 알고리즘의 지각된 차가움이나 미묘한 감정적 요인을 설명하지 못하는 것에 대한 우려에 의해 부추길 수 있습니다. 예를 들어 의료나 채용과 같은 감정적으로 민감한 작업에서는 신경질적인 사람은 알고리즘이 동등하게 잘 기능하고 있는 경우에도 인간의 권장에 유리한 알고리즘 입력을 거부할 수 있습니다.

 

알고리즘 대리·역할

자문 대 자율 알고리즘 알고리즘의 회피는 권고를 제공하지만 인간이 최종적인 의사결정력을 유지할 수 있는 어드바이저 시스템에 비해 독립적으로 의사결정을 하는 자율시스템(실행 알고리즘)이 더 높아집니다. 사용자는 자문 알고리즘을 자신의 제어를 강화하는 지원 도구로 간주하는 경향이 있지만, 자율 알고리즘은 자신의 권한이나 개입 능력에 위협을 가하는 것으로 인식될 수 있습니다. 알고리즘 지각 능력 알고리즘은 공감이나 도덕적 추론 등 인간 특유의 기술이 결여되어 있다고 인식되는 경우가 많습니다. 이러한 인식은 주관적 판단, 윤리적 딜레마, 감정적 상호작용을 수반하는 작업에서 더 큰 혐오감을 가져옵니다. 일반적으로 사용자는 인간의 자질이 그다지 중요하지 않은 객관적인 기술적 작업에서 알고리즘을 더 많이 받아들입니다. 사회적, 인적 에이전트적 특징 전문 지식 높은 이해관계나 전문 지식을 필요로 하는 작업에서 사용자는 알고리즘보다 인간 전문가를 선호하는 경향이 있습니다. 이러한 선호는 인간 전문가가 알고리즘으로 설명할 수 없는 방식으로 문맥, 뉘앙스, 상황의 복잡성을 설명할 수 있다는 믿음에서 비롯됩니다. 알고리즘 혐오는 전문 지식을 가진 인간이 알고리즘의 대체 수단으로 이용할 수 있는 경우에 특히 두드러집니다. 사회적 거리 두기 사용자가 알고리즘을 거부할 가능성이 높은 것은 대체 수단이 자기 자신의 입력이거나 아는 사람이나 개인적으로 관련이 있는 사람의 입력일 경우입니다. 대조적으로 대안이 익명 또는 원격 인간 에이전트인 경우 알고리즘은 더 호의적으로 간주될 수 있습니다. 더 가깝고 더 관련성 있는 인간 에이전트를 선호하는 이러한 경향은 알고리즘을 통한 의사결정 수용에서 지각된 사회적 연결의 중요성을 강조하고 있습니다. 설계 관련 메커니즘 투명성 알고리즘 시스템의 투명성 부족은 종종 블랙박스 문제로 불리며 사용자 사이에 불신감을 야기합니다. 의사결정 방법에 대한 명확한 설명이 없으면 특히 하이스틱스 시나리오에서 사용자는 알고리즘 출력에 의존하는 것에 대해 불안감을 느낄 수 있습니다. 예를 들어 진단 권고 설명을 제공하는 등 의료용 AI 시스템의 투명성은 신뢰성을 크게 향상하고 혐오감을 줄일 수 있습니다. 투명한 알고리즘은 의사결정 과정의 수수께끼를 풀고 사용자가 보다 컨트롤할 수 있도록 함으로써 사용자에게 힘을 줍니다