ব্যাচ API

জেমিনি ব্যাচ এপিআই বিপুল সংখ্যক অনুরোধ অ্যাসিঙ্ক্রোনাসভাবে স্ট্যান্ডার্ড খরচের ৫০% খরচে প্রসেস করার জন্য ডিজাইন করা হয়েছে। এর লক্ষ্যমাত্রা টার্নঅ্যারাউন্ড টাইম হলো ২৪ ঘণ্টা, কিন্তু বেশিরভাগ ক্ষেত্রেই এটি তার চেয়ে অনেক দ্রুত সম্পন্ন হয়।

ডেটা প্রি-প্রসেসিং বা মূল্যায়ন চালানোর মতো বড় আকারের ও জরুরি নয় এমন কাজের জন্য ব্যাচ এপিআই ব্যবহার করুন, যেখানে তাৎক্ষণিক প্রতিক্রিয়ার প্রয়োজন নেই।

ব্যাচ জব তৈরি করা

ব্যাচ এপিআই-তে আপনার অনুরোধ জমা দেওয়ার দুটি উপায় রয়েছে:

• ইনলাইন রিকোয়েস্ট : আপনার ব্যাচ তৈরির রিকোয়েস্টে সরাসরি অন্তর্ভুক্ত GenerateContentRequest অবজেক্টের একটি তালিকা। এটি ছোট ব্যাচের জন্য উপযুক্ত, যা মোট রিকোয়েস্ট সাইজ ২০ মেগাবাইটের নিচে রাখে। মডেল থেকে ফেরত আসা আউটপুটটি হলো inlineResponse অবজেক্টের একটি তালিকা।
• ইনপুট ফাইল : একটি JSON Lines (JSONL) ফাইল, যার প্রতিটি লাইনে একটি সম্পূর্ণ GenerateContentRequest অবজেক্ট থাকে। বড় আকারের অনুরোধের জন্য এই পদ্ধতিটি সুপারিশ করা হয়। মডেল থেকে ফেরত আসা আউটপুটটি একটি JSONL ফাইল, যার প্রতিটি লাইন হয় একটি GenerateContentResponse অথবা একটি status অবজেক্ট।

ইনলাইন অনুরোধ

অল্প সংখ্যক অনুরোধের জন্য, আপনি সরাসরি আপনার BatchGenerateContentRequest মধ্যে GenerateContentRequest অবজেক্টগুলো এম্বেড করতে পারেন। নিম্নলিখিত উদাহরণটি ইনলাইন অনুরোধ সহ BatchGenerateContent পদ্ধতিটিকে কল করে:

from google import genai
from google.genai import types

client = genai.Client()

# A list of dictionaries, where each is a GenerateContentRequest
inline_requests = [
    {
        'contents': [{
            'parts': [{'text': 'Tell me a one-sentence joke.'}],
            'role': 'user'
        }]
    },
    {
        'contents': [{
            'parts': [{'text': 'Why is the sky blue?'}],
            'role': 'user'
        }]
    }
]

inline_batch_job = client.batches.create(
    model="gemini-3.7-flash",
    src=inline_requests,
    config={
        'display_name': "inlined-requests-job-1",
    },
)

print(f"Created batch job: {inline_batch_job.name}")

import {GoogleGenAI} from '@google/genai';

const ai = new GoogleGenAI({});

const inlinedRequests = [
    {
        contents: [{
            parts: [{text: 'Tell me a one-sentence joke.'}],
            role: 'user'
        }]
    },
    {
        contents: [{
            parts: [{