Azure Functions에 대한 Azure OpenAI 텍스트 완성 입력 바인딩

이 예제에서는 HTTP 트리거 함수가 매개 변수를 사용하여 텍스트 프롬프트에 포함하는 name 패턴을 보여 줍니다. 그러면 확장에서 Azure OpenAI 완성 API로 전송됩니다. 프롬프트에 대한 응답은 HTTP 응답으로 반환됩니다.

[Function(nameof(WhoIs))]
public static IActionResult WhoIs(
    [HttpTrigger(AuthorizationLevel.Function, Route = "whois/{name}")] HttpRequestData req,
    [TextCompletionInput("Who is {name}?", ChatModel = "%CHAT_MODEL_DEPLOYMENT_NAME%")] TextCompletionResponse response)
{
    return new OkObjectResult(response.Content);
}

이 예제에서는 프롬프트를 입력으로 사용하고, 완료 API로 직접 보내고, 응답을 출력으로 반환합니다.

[Function(nameof(GenericCompletion))]
public static IActionResult GenericCompletion(
    [HttpTrigger(AuthorizationLevel.Function, "post")] HttpRequestData req,
    [TextCompletionInput("{Prompt}", ChatModel = "%CHAT_MODEL_DEPLOYMENT_NAME%")] TextCompletionResponse response,
    ILogger log)
{
    string text = response.Content;
    return new OkObjectResult(text);
}

이 예제에서는 HTTP 트리거 함수가 매개 변수를 사용하여 텍스트 프롬프트에 포함하는 name 패턴을 보여 줍니다. 그러면 확장에서 Azure OpenAI 완성 API로 전송됩니다. 프롬프트에 대한 응답은 HTTP 응답으로 반환됩니다.

@FunctionName("WhoIs")
public HttpResponseMessage whoIs(
    @HttpTrigger(
        name = "req", 
        methods = {HttpMethod.GET},
        authLevel = AuthorizationLevel.ANONYMOUS, 
        route = "whois/{name}") 
        HttpRequestMessage<Optional<String>> request,
    @BindingName("name") String name,
    @TextCompletion(prompt = "Who is {name}?", chatModel = "%CHAT_MODEL_DEPLOYMENT_NAME%", name = "response", isReasoningModel = false) TextCompletionResponse response,
    final ExecutionContext context) {
    return request.createResponseBuilder(HttpStatus.OK)
        .header("Content-Type", "application/json")
        .body(response.getContent())
        .build();
}

이 예제에서는 프롬프트를 입력으로 사용하고, 완료 API로 직접 보내고, 응답을 출력으로 반환합니다.

@FunctionName("GenericCompletion")
public HttpResponseMessage genericCompletion(
    @HttpTrigger(
        name = "req", 
        methods = {HttpMethod.POST},
        authLevel = AuthorizationLevel.ANONYMOUS) 
        HttpRequestMessage<Optional<String>> request,
    @TextCompletion(prompt = "{prompt}", chatModel = "%CHAT_MODEL_DEPLOYMENT_NAME%", name = "response", isReasoningModel = false) TextCompletionResponse response,
    final ExecutionContext context) {
    return request.createResponseBuilder(HttpStatus.OK)
        .header("Content-Type", "application/json")
        .body(response.getContent())
        .build();
}

이 예제에서는 HTTP 트리거 함수가 매개 변수를 사용하여 텍스트 프롬프트에 포함하는 name 패턴을 보여 줍니다. 그러면 확장에서 Azure OpenAI 완성 API로 전송됩니다. 프롬프트에 대한 응답은 HTTP 응답으로 반환됩니다.

const { app, input } = require("@azure/functions");

// This OpenAI completion input requires a {name} binding value.
const openAICompletionInput = input.generic({
    prompt: 'Who is {name}?',
    maxTokens: '100',
    type: 'textCompletion',
    chatModel: '%CHAT_MODEL_DEPLOYMENT_NAME%'
})

app.http('whois', {
    methods: ['GET'],
    route: 'whois/{name}',
    authLevel: 'function',
    extraInputs: [openAICompletionInput],
    handler: async (_request, context) => {
        var response = context.extraInputs.get(openAICompletionInput)
        return { body: response.content.trim() }
    }
});

이 예제에서는 HTTP 트리거 함수가 매개 변수를 사용하여 텍스트 프롬프트에 포함하는 name 패턴을 보여 줍니다. 그러면 확장에서 Azure OpenAI 완성 API로 전송됩니다. 프롬프트에 대한 응답은 HTTP 응답으로 반환됩니다.

import { app, input } from "@azure/functions";

// This OpenAI completion input requires a {name} binding value.
const openAICompletionInput = input.generic({
    prompt: 'Who is {name}?',
    maxTokens: '100',
    type: 'textCompletion',
    chatModel: '%CHAT_MODEL_DEPLOYMENT_NAME%'
})

app.http('whois', {
    methods: ['GET'],
    route: 'whois/{name}',
    authLevel: 'function',
    extraInputs: [openAICompletionInput],
    handler: async (_request, context) => {
        var response: any = context.extraInputs.get(openAICompletionInput)
        return { body: response.content.trim() }
    }
});

이 예제에서는 HTTP 트리거 함수가 매개 변수를 사용하여 텍스트 프롬프트에 포함하는 name 패턴을 보여 줍니다. 그러면 확장에서 Azure OpenAI 완성 API로 전송됩니다. 프롬프트에 대한 응답은 HTTP 응답으로 반환됩니다.

다음은 에 대한 TextCompletionResponse 파일입니다.

{
  "bindings": [
    {
      "authLevel": "function",
      "type": "httpTrigger",
      "direction": "in",
      "name": "Request",
      "route": "whois/{name}",
      "methods": [
        "get"
      ]
    },
    {
      "type": "http",
      "direction": "out",
      "name": "Response"
    },
    {
      "type": "textCompletion",
      "direction": "in",
      "name": "TextCompletionResponse",
      "prompt": "Who is {name}?",
      "maxTokens": "100",
      "chatModel": "%CHAT_MODEL_DEPLOYMENT_NAME%"
    }
  ]
}

function.json 파일 속성에 대한 자세한 내용은 구성 섹션을 참조하세요.

이 코드는 완성 API의 텍스트를 응답으로 반환합니다.

using namespace System.Net

param($Request, $TriggerMetadata, $TextCompletionResponse)

Push-OutputBinding -Name Response -Value ([HttpResponseContext]@{
        StatusCode = [HttpStatusCode]::OK
        Body       = $TextCompletionResponse.Content
    })

이 예제에서는 HTTP 트리거 함수가 매개 변수를 사용하여 텍스트 프롬프트에 포함하는 name 패턴을 보여 줍니다. 그러면 확장에서 Azure OpenAI 완성 API로 전송됩니다. 프롬프트에 대한 응답은 HTTP 응답으로 반환됩니다.

@app.route(route="whois/{name}", methods=["GET"])
@app.text_completion_input(
    arg_name="response",
    prompt="Who is {name}?",
    max_tokens="100",
    chat_model="%CHAT_MODEL_DEPLOYMENT_NAME%",
)
def whois(req: func.HttpRequest, response: str) -> func.HttpResponse:
    response_json = json.loads(response)
    return func.HttpResponse(response_json["content"], status_code=200)

이 예제에서는 프롬프트를 입력으로 사용하고, 완료 API로 직접 보내고, 응답을 출력으로 반환합니다.

@app.route(route="genericcompletion", methods=["POST"])
@app.text_completion_input(
    arg_name="response",
    prompt="{Prompt}",
    chat_model="%CHAT_MODEL_DEPLOYMENT_NAME%",
)
def genericcompletion(
    req: func.HttpRequest,
    response: str
) -> func.HttpResponse:
    response_json = json.loads(response)
    return func.HttpResponse(response_json["content"], status_code=200)

특성

텍스트 완성 입력 바인딩을 정의하기 위해 적용하는 특정 특성은 C# 프로세스 모드에 따라 달라집니다.

이 특성은 다음 매개 변수를 지원합니다.

주석

주석을 TextCompletion 사용하면 다음 매개 변수를 지원하는 텍스트 완성 입력 바인딩을 정의할 수 있습니다.

데코레이터

미리 보기 중에 입력 바인딩을 다음 매개 변수를 지원하는 generic_input_binding 형식의 textCompletion 바인딩으로 정의합니다.

구성 / 설정

바인딩은 function.json 파일에 설정한 이러한 구성 속성을 지원합니다.

구성 / 설정

바인딩은 코드에 정의된 다음 속성을 지원합니다.