فوری آؤٹ لائن
اس پوسٹ میں درج ذیل حصے ہیں:
- LangChain میں Async API ایجنٹ کا استعمال کیسے کریں۔
- طریقہ 1: سیریل ایگزیکیوشن کا استعمال
- طریقہ 2: کنکرنٹ ایگزیکیوشن کا استعمال
- نتیجہ
LangChain میں Async API ایجنٹ کا استعمال کیسے کریں؟
چیٹ ماڈلز بیک وقت متعدد کام انجام دیتے ہیں جیسے پرامپٹ کی ساخت کو سمجھنا، اس کی پیچیدگیاں، معلومات نکالنا اور بہت کچھ۔ LangChain میں Async API ایجنٹ کا استعمال صارف کو موثر چیٹ ماڈل بنانے کی اجازت دیتا ہے جو ایک وقت میں متعدد سوالات کے جواب دے سکتے ہیں۔ LangChain میں Async API ایجنٹ کے استعمال کا طریقہ سیکھنے کے لیے، بس اس گائیڈ پر عمل کریں:
مرحلہ 1: فریم ورک انسٹال کرنا
سب سے پہلے، LangChain فریم ورک انسٹال کریں تاکہ Python پیکیج مینیجر سے اس کا انحصار حاصل کیا جا سکے۔
pip انسٹال langchain
اس کے بعد، llm کی طرح لینگویج ماڈل بنانے کے لیے OpenAI ماڈیول انسٹال کریں اور اس کا ماحول سیٹ کریں:
پائپ انسٹال اوپنائی
مرحلہ 2: اوپن اے آئی ماحولیات
ماڈیولز کی تنصیب کے بعد اگلا مرحلہ ہے۔ ماحول کی ترتیب OpenAI کی API کلید کا استعمال کرتے ہوئے اور سرپر API گوگل سے ڈیٹا تلاش کرنے کے لیے:
درآمد تم
درآمد گیٹ پاس
تم . تقریباً [ 'OPENAI_API_KEY' ] = گیٹ پاس . گیٹ پاس ( 'اوپن اے آئی API کلید:' )
تم . تقریباً [ 'SERPER_API_KEY' ] = گیٹ پاس . گیٹ پاس ( 'سرپر API کلید:' )
مرحلہ 3: لائبریریاں درآمد کرنا
اب جب کہ ماحول سیٹ ہو چکا ہے، بس مطلوبہ لائبریریاں درآمد کریں جیسے asyncio اور LangChain انحصار کا استعمال کرتے ہوئے دیگر لائبریریاں:
سے langchain ایجنٹس درآمد ابتدائیہ_ایجنٹ ، لوڈ_ٹولزدرآمد وقت
درآمد asyncio
سے langchain ایجنٹس درآمد ایجنٹ کی قسم
سے langchain ایل ایم ایس درآمد اوپن اے آئی
سے langchain کال بیکس . stdout درآمد StdOutCallbackHandler
سے langchain کال بیکس . ٹریسر درآمد LangChainTracer
سے aiohttp درآمد کلائنٹ سیشن
مرحلہ 4: سیٹ اپ سوالات
ایک سوال ڈیٹا سیٹ سیٹ کریں جس میں مختلف ڈومینز یا عنوانات سے متعلق متعدد سوالات ہوں جنہیں انٹرنیٹ (گوگل) پر تلاش کیا جا سکتا ہے:
سوالات = ['2021 میں یو ایس اوپن چیمپئن شپ کا فاتح کون ہے' ،
'اولیویا وائلڈ کے بوائے فرینڈ کی عمر کیا ہے' ،
'فارمولا 1 ورلڈ ٹائٹل کا فاتح کون ہے' ،
'2021 میں یو ایس اوپن خواتین کا فائنل کس نے جیتا' ،
'بیونس کا شوہر کون ہے اور اس کی عمر کیا ہے' ،
]
طریقہ 1: سیریل ایگزیکیوشن کا استعمال
تمام مراحل مکمل ہونے کے بعد، سیریل ایگزیکیوشن کا استعمال کرتے ہوئے تمام جوابات حاصل کرنے کے لیے صرف سوالات پر عمل کریں۔ اس کا مطلب یہ ہے کہ ایک وقت میں ایک سوال کو عمل میں لایا جائے گا / ظاہر کیا جائے گا اور ان سوالات کو انجام دینے میں لگنے والا مکمل وقت بھی واپس کر دیا جائے گا:
ایل ایل ایم = اوپن اے آئی ( درجہ حرارت = 0 )اوزار = لوڈ_ٹولز ( [ 'گوگل ہیڈر' ، 'ایل ایل ایم-ریاضی' ] ، ایل ایل ایم = ایل ایل ایم )
ایجنٹ = ابتدائیہ_ایجنٹ (
اوزار ، ایل ایل ایم ، ایجنٹ = ایجنٹ کی قسم۔ ZERO_SHOT_REACT_DESCRIPTION ، لفظی = سچ ہے۔
)
s = وقت . perf_counter ( )
# مکمل عمل کے لیے استعمال ہونے والے وقت کو حاصل کرنے کے لیے ٹائم کاؤنٹر کو ترتیب دینا
کے لیے q میں سوالات:
ایجنٹ رن ( q )
گزر گیا = وقت . perf_counter ( ) --.s
جوابات حاصل کرنے کے لیے ایجنٹ کے استعمال کردہ کل وقت کو پرنٹ کریں۔
پرنٹ کریں ( f 'سیریل کو { گزرے ہوئے:0.2f} سیکنڈ میں انجام دیا گیا۔' )
آؤٹ پٹ
مندرجہ ذیل اسکرین شاٹ دکھاتا ہے کہ ہر سوال کا جواب ایک الگ سلسلہ میں دیا جاتا ہے اور ایک بار پہلی زنجیر ختم ہونے کے بعد دوسری سلسلہ فعال ہو جاتی ہے۔ تمام جوابات کو انفرادی طور پر حاصل کرنے میں سیریل کی تکمیل میں زیادہ وقت لگتا ہے:
طریقہ 2: کنکرنٹ ایگزیکیوشن کا استعمال
کنکرنٹ ایگزیکیوشن طریقہ تمام سوالات لیتا ہے اور ان کے جوابات بیک وقت حاصل کرتا ہے۔
ایل ایل ایم = اوپن اے آئی ( درجہ حرارت = 0 )اوزار = لوڈ_ٹولز ( [ 'گوگل ہیڈر' ، 'ایل ایل ایم-ریاضی' ] ، ایل ایل ایم = ایل ایل ایم )
# کنفیگرنگ ایجنٹ مندرجہ بالا ٹولز کا استعمال کرتے ہوئے بیک وقت جوابات حاصل کرنے کے لیے
ایجنٹ = ابتدائیہ_ایجنٹ (
اوزار ، ایل ایل ایم ، ایجنٹ = ایجنٹ کی قسم۔ ZERO_SHOT_REACT_DESCRIPTION ، لفظی = سچ ہے۔
)
# مکمل عمل کے لیے استعمال ہونے والے وقت کو حاصل کرنے کے لیے ٹائم کاؤنٹر کو ترتیب دینا
s = وقت . perf_counter ( )
کام = [ ایجنٹ بیماری ( q ) کے لیے q میں سوالات ]
asyncio کا انتظار کریں۔ جمع ( *کام )
گزر گیا = وقت . perf_counter ( ) --.s
جوابات حاصل کرنے کے لیے ایجنٹ کے استعمال کردہ کل وقت کو پرنٹ کریں۔
پرنٹ کریں ( f 'ایک ساتھ عمل کیا گیا { گزرے ہوئے: 0.2f} سیکنڈ میں' )
آؤٹ پٹ
کنکرنٹ ایگزیکیوشن تمام ڈیٹا کو ایک ہی وقت میں نکالتا ہے اور سیریل ایگزیکیوشن سے کم وقت لیتا ہے:
یہ سب کچھ LangChain میں Async API ایجنٹ کے استعمال کے بارے میں ہے۔
نتیجہ
LangChain میں Async API ایجنٹ کو استعمال کرنے کے لیے، asyncio لائبریری حاصل کرنے کے لیے لائبریریوں کو ان کے انحصار سے درآمد کرنے کے لیے صرف ماڈیولز انسٹال کریں۔ اس کے بعد، ان کے متعلقہ اکاؤنٹس میں سائن ان کرکے OpenAI اور Serper API کیز کا استعمال کرتے ہوئے ماحول کو ترتیب دیں۔ مختلف عنوانات سے متعلق سوالات کے سیٹ کو ترتیب دیں اور سلسلہ وار اور بیک وقت زنجیروں کو عمل میں لائیں تاکہ ان پر عمل درآمد کا وقت مل سکے۔ اس گائیڈ نے LangChain میں Async API ایجنٹ کو استعمال کرنے کے عمل کی وضاحت کی ہے۔