Vertex AI 设置

本指南概述了如何设置 Vertex AI，从而能够从代码调用 Vertex AI API。

为了使用 Vertex AI，您需要使用 Google Cloud Platform (GCP) 执行一些初始设置。

1. 创建 GCP 帐户：以下页面提供了有关 Google Cloud Platform 及其入门方法的更多信息。在您的帐户中创建一个项目并为其设置账单

2. 安装 gcloud CLI (指南)。请注意，虽然 3.8 - 3.12 被列为受支持的版本，但 这个错误发生在 Python 3.12 上。本指南已使用 Python 3.10.2 进行了测试。

3. 按照本指南创建一个服务帐户，并授予它 Vertex AI Service Agent 的角色。

4. 为服务帐户创建并下载一个服务帐户密钥 (指南)。

5. 启用 Vertex AI API (指南)

6. 使用 pip install "google-cloud-aiplatform>=1.38.0" 安装调用 Vertex AI 所需的其他 python 库

使用以下代码片段测试您是否能够成功调用 VertexAI API

import os
os.environ['GOOGLE_APPLICATION_CREDENTIALS'] = "<path>/<to>/<your>/<service>/<account>/<key>.json"

from vertexai.preview.generative_models import GenerativeModel, ChatSession

model = GenerativeModel("gemini-1.0-pro")
chat = model.start_chat()

def get_chat_response(chat: ChatSession, prompt: str):
    response = chat.send_message(prompt)
    return response.text

prompts = [
    "Hi, who are you?",
    "What can you tell me about the United States?",
    "Where was its 44th president born?",
]

for prompt in prompts:
    print("User:", prompt)
    print("Gemini:", get_chat_response(chat, prompt))
    print("------")