양자 어닐러는 어떻게 신약 개발의 10억 개 분자 장벽을 돌파하는가
샤하르 케이난(Shahar Keinan)과의 인터뷰를 바탕으로 작성
6년 전, 샤하르 케이난과 공동 창립자인 빌 쉽맨(Bill Shipman)은 클라우드 파마슈티컬스(Cloud Pharmaceuticals)라는 컴퓨터 기반 신약 설계 회사에서 일하던 중 계속해서 같은 문제에 부딪히고 있었습니다. 실행 가능한 새로운 신약 분자를 찾기 위해 어떤 방식을 취하든, 기존의 고성능 컴퓨터부터 그래픽 처리 장치(GPU) 가속 파이프라인에 이르기까지 그들이 사용할 수 있었던 컴퓨팅 도구들은 항상 같은 지점에서 멈춰 섰던 거죠. 케이난은 당시 기술적인 한계에 직면했다는 사실을 깨달았다고 말했습니다. 그녀는 검토할 수 있는 분자의 수에는 한계가 있으며, 컴퓨팅 성능을 아무리 추가해도 그 한계를 넘을 수는 없다고 덧붙였습니다.
그 한계는 단순한 처리 속도의 문제가 아니라 탐색 과정 그 자체에 있었습니다. 모든 약물은 분자에서 시작합니다. 이론적으로 가능한 모든 약물 유사 분자 구조의 전체 집합인 화학적 공간은 종종 10의 60제곱 개에 달하는 화합물로 추산됩니다. 최고의 장비를 갖춘 제약 연구팀도 한 번에 10억 개(10의 9제곱) 정도만 탐색할 수 있는 거죠. 케이난은 10억 개의 화합물이 큰 숫자처럼 들리지만, 전체 가능성에 비하면 매우 적은 숫자라고 설명했습니다. 화학적 공간에 존재하는 분자의 수와 연구원들이 기존 워크플로우를 사용해 검토할 수 있는 분자의 수 사이에는 엄청난 차이가 있습니다.
핵심적으로 이 문제는 최적화에 관한 것인데, 모든 후보 분자는 수십 개의 상충되는 물리적 및 화학적 제약 조건을 동시에 충족해야 하며 광활한 공간에서 가장 강력한 후보를 식별하는 것은 반복적이고 단계적인 방법으로는 효율적으로 수행할 수 없는 작업입니다. 그래서 케이난과 쉽맨은 완전히 다른 종류의 도구를 만들기 위해 폴라리스 퀀텀 바이오텍(Polaris Quantum Biotech, PolarisQB)을 설립하게 된 거죠. 현재 케이난이 CEO로 재직 중인 이 회사는 최적화를 위해 특별히 제작된 양자 하드웨어의 일종인 양자 어닐러에서 실행되는 신약 설계 플랫폼을 개발하여, 기존 시스템이 허용하는 것보다 몇 자릿수 더 큰 화학적 공간을 탐색할 수 있게 만들었습니다. 이 플랫폼은 현재 성공적으로 가동되며 실제 사용되고 있습니다.
이번 호에서는 양자 어닐러가 신약 개발을 대규모 최적화 문제로 재구성하여 어떻게 혁신을 일으키고 있는지, 그리고 이를 통해 연구원들이 기존의 한계를 훨씬 뛰어넘는 화학적 공간을 탐색하고 실행 가능한 후보 분자 식별을 획기적으로 가속화하는 방법을 자세히 살펴봅니다.
샤하르 케이난은 폴라리스큐비(PolarisQB)의 CEO이자 공동 창립자로서, 양자 및 인공지능(AI) 기반 접근 방식을 활용하여 신약 개발을 가속화하는 작업을 이끌고 있습니다. 그녀는 컴퓨터 화학 분야에서 25년 이상의 경력을 보유하고 과학 및 운영 리더십에서 탄탄한 실적을 쌓아왔으며, 초기 발견부터 전임상 단계에 이르는 복잡한 R&D 프로그램을 주도해 왔습니다. 이전에는 클라우드 파마슈티컬스의 공동 창립자이자 최고과학책임자(CSO)로 재직하며 화학, 소프트웨어, 외부 연구 파트너십 전반에 걸친 다학제간 팀을 지휘하기도 했죠. 그녀는 예루살렘 히브리 대학교에서 화학 박사 학위를 취득했으며, 해당 분야에서 수많은 논문과 특허를 저술 및 출원했습니다.
신약 분자가 수행해야 할 역할
신약 분자 발견을 위한 탐색이 왜 그토록 어려운지 알아보려면, 신약 분자가 실제로 어떤 역할을 해야 하는지, 그리고 왜 이러한 요구 사항들이 기존의 접근 방식을 무너뜨리는지 이해하는 것이 도움이 됩니다. 각 분자는 올바른 생물학적 표적에 결합하는 것을 포함하여 여러 가지 요구 사항을 동시에 충족해야 하거든요. 암의 경우, 그 표적은 통제 불가능한 세포 복제를 유도하는 단백질인 경우가 많습니다. 신약 분자는 소화 시스템에서 살아남고, 세포막을 통과하여 표적 조직에 도달한 후, 다른 곳에 손상을 주지 않고 체내에서 배출되어야 합니다. 제약 업계는 이러한 요구 사항을 분자의 흡수, 분포, 대사, 배설, 독성(ADMET) 프로파일로 공식화하며, 이는 분자량, 친유성, 대사 안정성과 같은 측정 가능한 특성들을 제한하게 됩니다.
이러한 ADMET 제약 조건은 질병에 따라 달라집니다. 케이난은 암을 치료할 무언가를 찾는다면 분자가 약간 더 독성을 띠어도 괜찮다고 말했습니다. 반면에 당뇨병과 같은 만성 질환이 표적이라면 해당 분자가 독성을 띠어서는 안 된다고 그녀는 덧붙였습니다.
이러한 상충하는 제약 조건들이 신약 설계를 겉보기보다 근본적으로 훨씬 더 어렵게 만들며, 풍부한 자원을 갖춘 연구팀조차 기존 도구를 사용할 때 계속해서 같은 한계에 부딪히는 이유를 설명해 주는 거죠.
기존 도구가 한계에 부딪히는 이유
기존의 워크플로우는 반복 작업으로 이에 대응합니다. 연구팀은 의도한 표적에 측정 가능한 영향을 미치는 유망한 생물학적 활성을 가진 분자를 식별한 다음, 그 밖의 다른 특성들을 단계별로 조정하게 됩니다. 하지만 이러한 특성들은 종종 서로 충돌할 수 있죠. 예를 들어, 용해도를 향상시키면 분자가 표적 단백질에 부착되는 강도인 결합 친화력이 약해질 수 있으며, 흡수력을 높이면 독성이 증가할 수 있습니다. 이 과정은 적은 양의 화학적 공간만을 탐색하며, 정답이 근처에 있을 것이라고 가정하는 방식입니다.
케이난은 1990년대 후반의 구체적인 예를 제시했습니다. 바이엘(Bayer)의 연구원들은 훗날 신세포암 및 간세포암을 포함한 진행성 신장암과 간암의 치료제로 승인된 소라페닙(Sorafenib)이 될 물질을 연구하고 있었습니다. 그녀는 바이엘이 생물학적 표적을 식별한 시점부터 임상 시험을 시작하기까지 6년이 걸렸다고 말했습니다. 그 기간 동안 그들은 바이엘의 경쟁사들이 나중에 발견하여 특허를 낼 인근 화학적 공간의 분자 변형체들을 놓치고 말았던 겁니다. 당시의 도구들은 그러한 분자 변형체들을 찾을 수 있을 만큼 충분한 연산 능력을 갖추지 못했기 때문이죠.
바이엘의 사례는 단일 기업의 고충이 아니라 보다 광범위한 패턴을 보여줍니다. 케이난에 따르면, 기존 컴퓨터와 GPU는 약 100억 개의 화합물을 평가할 수 있는 최신 파이프라인을 통해 탐색 범위를 넓혀 왔습니다. 그럼에도 불구하고 10의 60제곱 중 100억 개는 아주 얇은 조각에 불과하죠.
심지어 그 얇은 조각을 탐색하는 데도 많은 비용이 듭니다. 케이난은 고성능 슈퍼컴퓨터에서 10개의 신약 표적을 한 달 동안 실행하는 데 약 200만 달러(USD)가 소요된다고 설명했습니다.
경쟁의 압박까지 고려하면 이러한 비용 부담은 더욱 가중됩니다. 케이난은 특정 분자를 찾는 데 1년이 걸렸는데 경쟁사가 3개월 만에 해낸다면, 결과적으로 FDA 승인 과정에서 경쟁사보다 9개월이나 뒤처지게 되는 셈이라고 지적했습니다.
규모, 비용, 출시 속도에 대한 이러한 압박은 케이난과 쉽맨이 접근 방식을 완전히 재고하게 만든 원동력이 되었습니다. 그들의 전환은 매우 명료했습니다. 이를 탐색 문제가 결합된 단순한 화학으로 취급하는 것을 멈추는 것이었죠. 오히려 화학에 의해 제약을 받는 탐색 문제로 다루어야 했습니다. 이러한 관점의 재구성은 폴라리스큐비가 구축된 모든 것의 기반이며, 특정 하드웨어가 이미 해결하도록 설계된 문제군으로 직접 이어졌습니다.
최적화 문제로서의 신약 설계
케이난의 프레임워크에서 신약 설계는 양자 어닐러가 해결하도록 설계된 것과 동일한 부류의 문제인 최적화 문제로 자연스럽게 연결됩니다.
배낭 문제가 유용한 비유가 될 수 있겠네요. 무게와 가치가 다른 여러 물건들이 있고, 가방의 수용 용량은 고정되어 있습니다. 이때 목표는 무게 제한을 초과하지 않으면서 가치를 극대화하는 조합을 선택하는 것입니다. 신약 설계도 같은 원리로 작동하여, 상충하는 요구 사항을 동시에 만족시키면서 수많은 분자 구성 요소 중에서 최적의 선택을 해야 합니다.
폴라리스큐비는 양자 보조 신약 설계(QuADD) 플랫폼을 통해 이 논리를 직접 적용합니다. 케이난에 따르면, QuADD는 약 75만 개의 옵션으로 구성된 라이브러리에서 추출한 작은 화학적 구성 요소인 분자 조각들을 활용합니다. 각 조각은 단백질 주머니(protein pocket)에 대한 적합성, 용해도, 합성의 용이성을 포함하여 이미 알려진 특성들을 가지고 있죠. 목표는 이러한 모든 요구 사항을 동시에 만족하는 조합을 찾는 것입니다. 해당 라이브러리에서 나올 수 있는 조합의 수는 10의 30제곱에 달합니다.
케이난은 이러한 규모가 무엇을 가능하게 하는지 설명하기 위해 다시 소라페닙의 사례를 언급했습니다. 폴라리스큐비는 사례 연구로 해당 분자 구조에 대해 QuADD를 실행해 보았습니다. 이 플랫폼은 바이엘의 경쟁사들이 향후 25년에 걸쳐 발견하고 특허를 낸 대체 분자들을 성공적으로 식별해 냈습니다. 이러한 분자들을 기존의 탐색 방식으로 찾아내는 데는 수년이 걸렸던 작업이거든요. 반면 폴라리스큐비는 QuADD를 사용하여 3개월도 채 되지 않아 동등한 분자 변형체를 연산 방식을 통해 생성해 냈습니다.
케이난은 자사의 플랫폼을 사용했다면 바이엘 측에 애초부터 특허에 특정 요소들을 모두 포함시켜야 한다고 조언할 수 있었을 것이라고 말했습니다.
여기서 핵심은 기존의 도구가 잘못되었다는 의미가 아닙니다. 핵심은 기존 탐색 방법이 협소한 반면, 화학적 공간은 방대하다는 점이죠. 최적화라는 프레임워크는 무엇을 해결해야 하는지 설명해주며, 이어서 이러한 규모의 문제를 어떤 하드웨어로 해결할 수 있느냐는 질문이 뒤따르게 됩니다.
오늘날 양자 어닐러가 기여하는 방식
양자 컴퓨팅은 다양한 종류의 기계를 포괄합니다. 케이난은 이들 사이에 명확한 선을 긋습니다.
뉴스에 가장 자주 등장하는 범용 양자 컴퓨터는 아직 초기 개발 단계에 있습니다. 케이난은 이 기기들이 실제 생산 환경에서 사용할 수 있을 만큼 안정성을 갖추려면 3년에서 5년 정도 더 걸릴 것으로 예상합니다.
하지만 양자 어닐러는 다르죠. 이들은 최적화를 위해 특별히 제작되었으며 오늘날 이미 실행되고 있습니다. 이들은 정해진 목표와 제약 조건 하에서 엄청나게 많은 수의 가능한 조합들 중 강력한 해결책을 찾는 단 한 가지 작업을 수행합니다.
케이난은 이러한 차이를 실질적인 관점에서 설명합니다. 기존 시스템은 해결책을 단계별로 개선하므로 어느 정도 적당히 좋은 해결책에 그칠 수 있습니다. 반면 어닐러는 지형을 훨씬 더 넓게 탐색하고 문제의 규칙 하에서 찾을 수 있는 가장 강력한 해결책을 도출해내는 방식인 셈이죠.
어닐러의 진가는 시간과 비용 측면에서 드러납니다. 폴라리스큐비에 따르면, 기존 컴퓨터에서 10의 30제곱에 달하는 조합을 탐색하는 데는 수 주가 걸리고 수백만 달러의 비용이 듭니다. 이 회사의 플랫폼은 양자 컴퓨팅 기업인 D-웨이브(D-Wave)가 구축한 양자 어닐러에서 실행됩니다. 해당 하드웨어에서는 동일한 탐색을 수행하는 데 30분도 채 걸리지 않으며 비용도 훨씬 적게 들거든요.
그 결과로 순위가 매겨진 약 3,000개의 후보 분자 라이브러리가 출력됩니다. 그다음부터는 다시 연구실에서의 작업으로 넘어가는 거죠.
케이난은 자신들의 역할이 건축가에 더 가깝다고 비유했습니다. 자신들이 설계도를 보여주면 다른 누군가가 분자를 조립하고 합성하며 테스트를 진행한다는 뜻입니다. 케이난에 따르면, 이러한 워크플로우를 도입할 경우 기존에 1년에서 2년이 걸렸던 최적화 단계가 3개월에서 4개월로 단축됩니다.
양자 어닐러가 조합 최적화를 처리하게 되면서, 머신 러닝은 신약 개발 파이프라인의 어느 부분에 적합한가라는 자연스러운 의문이 뒤따르게 됩니다.
머신 러닝이 적합한 영역
AI의 하위 분야인 머신 러닝(ML)은 신약 개발 분야에서 큰 호응을 얻고 있으며, 케이난은 머신 러닝이 잘할 수 있는 일과 그녀가 생각하는 한계점에 대해 신중한 태도를 취하고 있습니다.
그녀는 AI가 새로운 물질이나 새로운 화합물을 발명하는 데는 그리 강력하지 않다고 지적했습니다. 그리고 바로 그 지점이 양자 기술이 훨씬 더 나은 도구로 평가받는 영역이라고 덧붙였죠.
폴라리스큐비는 자사의 양자 기반 접근 방식을 AI 기반 신약 설계 도구와 비교한 사전 인쇄 논문(preprint)을 발표했습니다. 테스트 케이스로는 혈액 응고에 관여하며 응고 촉매로 알려진 세린 프로테아제인 트롬빈이 사용되었습니다. 해당 비교에서 양자 기술로 도출된 후보 물질들이 표적 단백질에 더 단단히 결합했으며 합성하기도 더 쉬운 것으로 나타났거든요.
케이난은 AI 도구를 사용하면 얻을 수 있는 분자 수가 더 적고 해당 분자들의 특성 또한 그만큼 뛰어나지 않다고 설명했습니다. 그녀는 이것이 더 좁은 공간을 탐색한 데 따른 직접적인 결과라고 강조했습니다.
그녀가 강조하는 바는 전체 내용에 걸쳐 일관되게 유지됩니다. 도구 자체도 중요하지만 탐색 공간의 폭이 훨씬 더 중요하다는 거죠.
엔지니어들에게 있어 실질적인 질문은 어떤 도구가 승리하느냐가 아니라, 현재 양자 하드웨어가 할 수 있는 일이 무엇인지, 그 한계가 어디까지인지, 그리고 무엇이 가장 먼저 변화할 가능성이 높은지를 이해하는 것입니다.
엔지니어가 알아두어야 할 사항
양자 어닐러는 하드웨어 시스템입니다. 이들의 성능은 냉각, 안정성, 연결성 및 제어와 같은 엔지니어링 세부 사항에 따라 달라집니다. 이러한 요소들이 케이난이 지적하는 단기적인 제약 조건들이며, 가장 먼저 개선될 가능성이 높은 요인들이기도 하죠.
그녀는 한계점에 대해서도 명확히 설명합니다. 어닐러는 최적화 문제를 해결하죠. 제1원리(first principles)로부터 분자의 특성을 예측하는 것과 같은 다른 종류의 문제는 아직 생산 규모 단계에 도달하지 못한 게이트 기반(gate-based) 양자 컴퓨터 하드웨어를 필요로 합니다. 케이난은 3년에서 5년 내에 이러한 상황이 변화할 것으로 예상하고 있습니다.
그녀는 양자 컴퓨팅 업계가 현재 실현 가능한 것과 그렇지 않은 것에 대해 훨씬 더 신중해야 한다고 말했습니다. 사람들은 지금 당장 양자 하드웨어로 실제 문제를 해결할 수 있다는 사실을 항상 인지하고 있는 것은 아니라고 덧붙였죠.
엔지니어들에게 있어 실질적인 출발점은 거대한 조합 공간, 수많은 제약 조건, 그리고 알려진 화합물에 대한 점진적 조정을 넘어선 탐색의 필요성 등 문제의 폭을 이해하는 것입니다.
케이난은 오늘날 이 기술이 수행하는 역할과 발전 방향을 이해하는 것은 물론, 단순히 해답이 있는 곳뿐만 아니라 기술적인 문제가 존재하는 곳을 파악하는 것이야말로 엔지니어들이 새롭고 흥미로운 도전 과제를 발견할 수 있는 진정한 지점이라고 주장했습니다.