Auto를 사용하여 모든 작업에 가장 적합한 AI 모델 선택하기

Auto는 각 작업을 읽고 품질, 속도, 비용의 균형이 가장 잘 맞는 모델로 작업을 전송하는 모델 라우터입니다. Auto는 Notion의 평가와 워크스페이스에서 허용하는 모델을 기반으로 여러 AI 제공업체의 모델 중에서 각 작업에 적합한 모델을 선택합니다. 간단한 질문이나 편집에는 더 빠른 모델을 사용하고, 복잡한 작업에는 더 뛰어난 성능의 모델을 사용합니다.

Auto는 모델 선택기, Notion 에이전트 채팅, 커스텀 에이전트 설정에서 기본적으로 켜져 있습니다. Auto를 사용하면 Notion이 각 작업에 가장 적합한 모델을 선택합니다. 작동 방식은 다음과 같습니다.

• Auto는 각 작업에 맞는 모델을 연결합니다. 간단한 질문, 편집, 요약은 빠르고 효율적인 모델이 처리합니다. 심층 리서치, 코드 작성, 커스텀 에이전트 구축과 같은 더 복잡한 작업은 더 뛰어난 성능의 모델이 처리합니다.

• Auto는 작업 도중 적응할 수 있습니다. Auto는 다단계 작업 중 까다로운 단계에서는 더 뛰어난 성능의 모델로 전환하고, 더 간단한 작업에서는 다시 원래 모델로 전환할 수 있습니다.

• Auto는 새로운 모델을 계속 업데이트합니다. Notion은 새로운 모델을 제공하기 전에 품질, 속도, 비용, 신뢰성을 평가합니다. Auto를 통해 사용할 수 있는 모델은 변경될 수 있습니다. Notion이 일반적인 지식 업무를 기준으로 모델을 평가하는 방법에 대해 자세히 알아보세요 →

• Auto는 워크스페이스 설정을 따릅니다. 즉, 워크스페이스에서 허용하고 모델 제어 설정 및 공급자 제한을 포함한 요구 사항을 충족하는 모델만 사용합니다. 소유자가 Auto가 사용할 수 있는 모델을 제한하는 경우, Auto는 워크스페이스에서 허용하는 모델 중 그 다음으로 비용이 낮은 모델로 대체합니다.

• Auto가 원활하게 작동하려면 충분한 수의 모델이 켜져 있어야 합니다. 소유자가 워크스페이스에 대해 너무 많은 모델을 끄면 Auto의 효율성이 떨어집니다. Auto의 전반적인 품질을 제한하는 변경 사항을 저장하면 워크스페이스 소유자에게 경고가 표시됩니다.

언제든지 직접 모델을 선택할 수 있습니다. 다음과 같은 경우 직접 선택하세요.

• Auto가 작업을 변경할 때마다 모델을 선택하거나 전환하게 하는 대신, 채팅 내내 동일한 모델을 사용하려는 경우.

• 특정 유형의 작업에 선호하는 모델이 있는 경우.

• Auto가 필요한 결과를 제공하지 않아 다른 모델을 시도하려는 경우.

모델을 선택하는 방법

Notion 에이전트 채팅에서:

1. Auto를 선택하여 모델 선택기를 엽니다.

2. 모델 위에 마우스를 올려 속도, 지능, 비용을 비교합니다.

3. 모델을 선택합니다.

선택하면 Notion 에이전트가 해당 모델을 채팅에 사용합니다. Auto로 다시 전환하려면 모델 선택기를 열고 Auto를 선택하세요.

커스텀 에이전트 설정에서:

1. 에이전트의 설정을 엽니다.

2. 모델 섹션으로 이동하여 모델 선택기를 엽니다.

3. 모델을 선택합니다.

4. 저장을 선택합니다.

선택하면 커스텀 에이전트는 사용자가 변경할 때까지 해당 모델을 사용합니다.

워크스페이스 소유자는 멤버가 선택할 수 있는 모델을 제어합니다. 워크스페이스에서 끈 공급자의 모델은 표시되지 않습니다. 워크스페이스에서 제한한 모델은 제한된 모델 아래에 표시되며 선택할 수 없습니다. AI 모델 및 멤버 크레딧 사용량 관리 방법 알아보기 →

비즈니스 및 엔터프라이즈 요금제에서 Notion 에이전트는 Auto를 사용할 때는 Standard 크레딧을, 직접 모델을 선택할 때는 Select 크레딧을 사용합니다. 두 크레딧 중 하나라도 소진되면 워크스페이스 소유자는 Notion 크레딧을 사용하여 AI 기능을 계속 사용할 수 있도록 허용할 수 있습니다. AI 크레딧 관리 방법 자세히 알아보기 →

Notion에서 수행하는 대부분의 일상적인 작업의 경우, Auto를 사용하면 직접 최상위 모델을 선택할 때보다 최대 10배 더 효율적으로 크레딧을 사용할 수 있습니다. Auto는 작업에 맞는 모델을 연결하여 작업당 비용을 절감하므로, 크레딧을 더 많은 작업을 완료하는 데 활용할 수 있습니다. 자체 테스트 결과:

• Auto의 평균 실행 비용은 Opus 5.5보다 87% 낮았습니다.

• 문서나 이메일을 다듬는 작업은 상세한 전략 문서나 분기별 계획을 작성하는 것보다 약 8배 적은 크레딧을 사용했습니다.

이 표는 Auto와 Opus 5.5를 사용한 일반적인 작업의 예상 크레딧 사용량을 비교한 것입니다. 실제 사용량은 다를 수 있습니다.

크레딧 사용량은 작업에 따라 다릅니다. 예를 들어, 복잡한 정보가 포함된 긴 스레드에서 Notion 에이전트에 이메일을 다듬어 달라고 요청하면 더 많은 크레딧이 사용될 수 있습니다. 일반적으로 더 많은 크레딧을 사용하는 작업의 경우에도 Auto는 최상위 모델과 비슷한 수준의 결과를 제공했습니다.

저희는 시뮬레이션된 Notion 환경에서 수천 개의 일반적인 실제 작업을 재현한 다음, 다양한 모델의 성능을 비교하여 Auto를 평가했습니다. 테스트 방식은 다음과 같습니다.

1. 저희는 모델을 한 번에 두 개씩 비교했습니다. 상위 모델 그룹에게 두 가지 다른 모델의 작업 결과를 나란히 보여주었습니다.

2. 심사위원 그룹은 정해진 평가 가이드를 사용하여 매번 더 나은 결과를 선택했습니다.

3. 이러한 일대일 대결 결과를 바탕으로 각 모델에 Elo 점수를 부여했습니다.

Elo 점수는 체스 선수의 순위를 매기는 것처럼 여러 번의 일대일 대결에서 플레이어가 다른 플레이어와 비교하여 얼마나 좋은 성과를 거두는지를 바탕으로 실력을 평가합니다. 이는 실제 업무를 기준으로 모델을 평가할 수 있는 간단하면서도 신뢰할 수 있는 방식입니다.

모든 대결을 수동으로 진행하는 것은 비용이 많이 들기 때문에, 이러한 순위와 최대한 일치하도록 AI 심사위원을 학습시켜 많은 수의 비교를 한꺼번에 진행할 수 있도록 했습니다. 저희의 점수는 이 방식을 기반으로 산출됩니다.