ଅଭ୍ୟାସରେ ସ୍ନାୟୁ ନେଟୱାର୍କ YaLM 100B |

ଜୁନ୍ ଶେଷରେ,
ୟାଣ୍ଡେକ୍ସ ଜନସାଧାରଣଙ୍କୁ YaLM 100B ନାମକ 100 ବିଲିୟନ ପାରାମିଟର ସହିତ ଏକ ସ୍ନାୟୁ ନେଟୱାର୍କ ମୁକ୍ତ କରିଥିଲା ​​| ସର୍ବସାଧାରଣ ଡୋମେନରେ ଏହା ସର୍ବ ବୃହତ GPT ପରି ସ୍ନାୟୁ ନେଟୱାର୍କ | ସେମାନେ କିପରି ଶିକ୍ଷାଦାନ କଲେ, ସର୍ବୋତ୍ତମ ଉଦାହରଣ ଦେଖାଇଲେ ଏବଂ ନ୍ୟୁରନ୍ କ’ଣ ସକ୍ଷମ ତାହା ବିଷୟରେ ଏହା କହିଥାଏ | କିନ୍ତୁ ଏହା ଅଭ୍ୟାସରେ ଏତେ ଭଲ ଏବଂ ଘରେ ପ୍ରଯୁଜ୍ୟ କି? ଆର୍ଟିକିଲ୍ ଏ ବିଷୟରେ ଚୁପ୍ ଅଛି, ଅଧିକନ୍ତୁ, ଏହାକୁ ଚଲାଇବା ଏବଂ ଯା check ୍ଚ କରିବା ଏତେ ସହଜ ନୁହେଁ, କାରଣ ପାଖାପାଖି 200 Gb GPU RAM ଆବଶ୍ୟକ | ହାବ୍ରେଙ୍କ
ଏହି ମନ୍ତବ୍ୟ ପରିସ୍ଥିତିକୁ ସଠିକ୍ ଭାବରେ ପ୍ରକାଶ କରିଥାଏ
|

ଅଭିଯୋଗ ହେଉଛି, ୟାଣ୍ଡେକ୍ସରେ, ଏହିପରି ସମସ୍ତ ସ୍ମାର୍ଟ ଲୋକ, ଏବଂ ସେମାନେ ଏକ ସାଧାରଣ How-to ପୋଷ୍ଟ ମଧ୍ୟ କରିନାହାଁନ୍ତି | ଏକ ବଡ଼ ମଡେଲ ପାଇଁ କ ap ଣସି ଆପି ନାହିଁ, ସାଧାରଣ ଲୋକଙ୍କ ପାଇଁ (ଗୁଗୁଲ୍ କୋଲାବରେ) କ ready ଣସି ପ୍ରସ୍ତୁତ-ପ୍ରସ୍ତୁତ ଷ୍ଟ୍ରିପ୍-ଡାଉନ୍ ମଧ୍ୟମ କିମ୍ବା ଛୋଟ ମଡେଲ୍ ନାହିଁ | ମଡେଲ୍ କିପରି ସେଟ୍ ଅପ୍ କରିବେ, ଟେକ୍ସଟ୍ କିପରି ସୃଷ୍ଟି କରିବେ ସେ ସମ୍ବନ୍ଧରେ କ example ଣସି ଉଦାହରଣ ଦିଆଯାଇ ନାହିଁ | ଏହା କେବଳ ଯେ ପ୍ରବନ୍ଧଟି ନର୍ଡମାନଙ୍କ ପାଇଁ ଦୁଇଟି ନ୍ୟୁଆନ୍ସ ସୂଚାଇଥାଏ ଏବଂ ତାହା ହେଉଛି | ବ୍ୟାଙ୍କ କିପରି “C” ଅକ୍ଷର ସହିତ ଏହା କଲା ଏବଂ ସମାନ କାର୍ଯ୍ୟ କରିବା ଉପରେ ଧ୍ୟାନ ଦେବା ଯଥେଷ୍ଟ | ମୁଁ ଅନୁଭବ କଲି ଯେ ଏହି ମଡେଲଟି ବିଫଳ ପରୀକ୍ଷଣ ମଧ୍ୟରୁ କେବଳ ଗୋଟିଏ ଯାହାକି ଆବର୍ଜନାରେ ପକାଇବା ଅତ୍ୟନ୍ତ ଦୁ ity ଖଦାୟକ, ତେଣୁ ୟାଣ୍ଡେକ୍ସ କେଉଁ ମହାନ ମଡେଲ ସୃଷ୍ଟି କରେ ତାହା ଦର୍ଶାଇବାକୁ ଏହା ମୁକ୍ତ ଉତ୍ସରେ ପୋଷ୍ଟ କରାଯାଇଥିଲା, ଏବଂ ଏହା ବ୍ୟତୀତ ଏହା ମୁକ୍ତ ଉତ୍ସ ଅଟେ!

ଇଣ୍ଟରନେଟରେ ଅନେକ ପ୍ରଶ୍ନ ଅଛି ଯେ ୟାଲମ୍ କିପରି ଚାଲିବ କିମ୍ବା ଅନଲାଇନ୍ ଚେଷ୍ଟା କରିବେ, କିନ୍ତୁ ଏହାର କ answers ଣସି ଉତ୍ତର ନାହିଁ | ମୁଁ ଏହି ଉପଭୋକ୍ତାମାନଙ୍କ ମଧ୍ୟରେ ଥିଲି ଯେଉଁମାନେ ଏହି ପ୍ରଶ୍ନ ପଚାରିଥିଲେ | ଏବଂ ଏହାକୁ ଆକଳନ କରିବାକୁ ସ୍ଥିର କରନ୍ତୁ | ଯେହେତୁ ମୁଁ ପ୍ରକୃତରେ ଆର୍ଥିକ ରୋବଟ୍ ପାଇଁ ପାଠ୍ୟ ସୃଷ୍ଟି କରିବାର ଏକ ଉପାୟ ଆବଶ୍ୟକ କରେ | ଯାହାଫଳରେ ସେମାନେ କେବଳ ମୂଲ୍ୟଗୁଡିକର ପୂର୍ବାନୁମାନ କରିପାରିବେ ନାହିଁ, ଆର୍ଥିକ ରିପୋର୍ଟ ଉପରେ ଆଧାର କରି ପାଠ୍ୟରେ ଏହା ଉପରେ ମନ୍ତବ୍ୟ ମଧ୍ୟ କରିପାରିବେ | ବାସ୍ତବରେ, ଏହା କେବଳ କୃତ୍ରିମ ବୁଦ୍ଧି ବ୍ୟବହାର କରି ଆର୍ଥିକ ବିଶ୍ଳେଷକମାନେ ଯାହା କରନ୍ତି ତାହା ସମାନ ହେବ | ୟାଲ୍ ଚଲାଇବା ପାଇଁ ଦୁଇଟି ଉପାୟ ଅଛି |
କ୍ଲାଉଡ୍ ରେ ଏକ ସର୍ଭର ଭଡା କରନ୍ତୁ |200+ Gb GPU RAM ସହିତ କିମ୍ବା କୋଡ୍ ସଂଶୋଧନ କରନ୍ତୁ ଏବଂ ଗଭୀର ସ୍ପିଡ୍ ଶୂନ ଅଫଲୋଡ୍ ସହିତ ଚଲାନ୍ତୁ (ଯେତେବେଳେ GPU କ୍ରମାଗତ ଭାବରେ ସ୍ନାୟୁ ନେଟୱାର୍କର କିଛି ଅଂଶ ପ୍ରକ୍ରିୟାକରଣ କରେ, ଏବଂ ବାକିଗୁଡ଼ିକ CPU RAM କିମ୍ବା NVMe ରେ ଗଚ୍ଛିତ ହୁଏ) | ପ୍ରଥମଟି ଅତ୍ୟନ୍ତ ମହଙ୍ଗା, ଘଣ୍ଟା ପ୍ରତି ପ୍ରାୟ 2500 ରୁବଲ୍ କିମ୍ବା ମାସକୁ 1.7 ମିଲିୟନ୍ | ଦ୍ୱିତୀୟ ଅଜ୍ unknown ାତ, କାରଣ ରେପୋଜିଟୋରୀରେ ଥିବା କୋଡ୍ ପ୍ରଦାନ କରାଯାଇ ନାହିଁ, କେବଳ
ରେପୋଜିଟୋରୀ ପ୍ରସଙ୍ଗରେ ସୂଚାଇଥାଏ , ଯାହା କରିବା କଷ୍ଟକର ନୁହେଁ | ଚାଲ ସରଳ ଆରମ୍ଭ କରିବା |

YaLM 100B ଲଞ୍ଚ ନିର୍ଦ୍ଦେଶାବଳୀ |

1. ଆମେ 200 GB GPU RAM ଭଡା କରୁ, ଉଦାହରଣ ସ୍ୱରୂପ ଏଠାରେ |

ଆପଣଙ୍କୁ ମୋଟ ଭିଡିଓ ମେମୋରୀ ଅତିକମରେ 200 GB ଆବଶ୍ୟକ | 8×40 = 320 GB କେବଳ ଏହା ଫିଟ୍ ହୁଏ | 200 ରୁ କମ୍ ଅସମ୍ଭବ, ଅଧିକ ସମ୍ଭବ | ତୀରଟି CPU RAM କୁ ସୂଚିତ କରେ, ଆମେ ଏହାକୁ ଦେଖୁନାହୁଁ | ସେ ଯେକେହି ହୋଇପାରନ୍ତି |

ଆମେ ପ୍ରାୟ 300 GB ର ଏକ ଡିସ୍କ ସୂଚୀତ କରୁ, ଯାହା ଦ୍ a ାରା ଏକ ଅତିରିକ୍ତ ଏବଂ ବିଶେଷତ a ଏକ ଦ୍ରୁତ ଡିସ୍କ ସହିତ, କାରଣ | ଦଶ ଗିଗାବାଇଟ୍ ଡାଟା ଏବଂ ଏଥିରୁ ସ୍ଥାନାନ୍ତରିତ ହେବ |

ଉତ୍ସଗୁଡିକରେ ସୃଷ୍ଟି କରିବାବେଳେ, ଉବୁଣ୍ଟୁ ML (ମେସିନ୍ ଲର୍ନିଂ) ଚୟନ କରନ୍ତୁ | ଏହା ବାଧ୍ୟତାମୂଳକ ଅଟେ ଯାହା ଦ୍ video ାରା ଭିଡିଓ କାର୍ଡଗୁଡିକ ବିନ୍ୟାସିତ ହୋଇଛି ଏବଂ ଅତିରିକ୍ତ ଭାବରେ କିଛି ସଂସ୍ଥାପିତ ହେବା ଆବଶ୍ୟକ ନାହିଁ |

ଏକ ସର୍ଭର ସୃଷ୍ଟି କରିବାବେଳେ, କୋଟା ସହିତ ନ୍ୟୁଆନ୍ସ ଅଛି, ଆପଣ ଅନୁଭବ କରିପାରନ୍ତି ଯେ ଯନ୍ତ୍ରପାତି ଉପଲବ୍ଧ ନାହିଁ, କିନ୍ତୁ ବାସ୍ତବରେ ଆପଣଙ୍କୁ କେବଳ ସେଟିଂସମୂହରେ କୋଟା ବୃଦ୍ଧି କରିବାକୁ ପଡିବ | ସର୍ଭର ସକ୍ରିୟ ହେବା ପରେ (ଏହା 5-10 ମିନିଟ୍ ନେଇପାରେ), ssh ମାଧ୍ୟମରେ କିମ୍ବା ସର୍ଭର ପୃଷ୍ଠାରେ ୱେବ୍ କନସୋଲରେ ସିଧାସଳଖ ସର୍ଭର ସହିତ ସଂଯୋଗ କରନ୍ତୁ ଏବଂ ନିର୍ଦ୍ଦେଶକୁ ଏକଜେକ୍ୟୁଟ୍ କରନ୍ତୁ |

nvidia-smi

ଫଳାଫଳ ଭିଡିଓ କାର୍ଡ, ଡ୍ରାଇଭର ସଂସ୍କରଣ ଏବଂ କୁଡା ସହିତ ଏକ ଟେବୁଲ୍ ହେବା ଉଚିତ | ପ୍ରାୟ ଏହିପରି |
ଡ୍ରାଇଭର ସଂସ୍କରଣ ହେଡର୍ ରେ ଏବଂ କେଉଁଠାରେ | ବାମ ପାର୍ଶ୍ୱରେ ଡିଭାଇସ୍ ନମ୍ବର ଅଛି, କେନ୍ଦ୍ରରେ ଡିଭାଇସ୍ ମେମୋରୀର ଆକାର ଅଛି | ଯଦି ଆପଣଙ୍କର ଏହି ସୂଚନା ନାହିଁ, ତେବେ ଆପଣ ସର୍ଭରକୁ ଭୁଲ ଉତ୍ସରୁ ସଂଗ୍ରହ କରିଛନ୍ତି | ଉପରୋକ୍ତ ବର୍ଣ୍ଣନା ଅନୁଯାୟୀ ଉବୁଣ୍ଟୁ ML (ମେସିନ୍ ଲର୍ନଙ୍ଗ) ଆବଶ୍ୟକ |

2. YaLM ସହିତ ସଂଗ୍ରହାଳୟକୁ କ୍ଲୋନ କରନ୍ତୁ |

sudo git clone https://github.com/yandex/YaLM-100B/ yalm
cd yalm

ତୁମର ହୋମ ଫୋଲ୍ଡରକୁ କ୍ଲୋନ କର, ତେଣୁ ତୁମକୁ ଡକର୍ କନଫିଗ୍ ଏଡିଟ୍ କରିବାକୁ ପଡିବ ନାହିଁ | ଯଦି ଅନ୍ୟ କ cl ଣସି ସ୍ଥାନରେ କ୍ଲୋନ ହୋଇଛି, ତେବେ
ଏଠାକୁ ଯାଆନ୍ତୁ ଏବଂ ଯେଉଁଠାରେ କ୍ଲୋନ ହୋଇଛି ସେହି ପଥ ଯୋଡନ୍ତୁ |

3. ଚେକପଏଣ୍ଟଗୁଡିକ ଡାଉନଲୋଡ୍ କରନ୍ତୁ (ମ basic ଳିକ ମଡେଲ୍ ତାଲିମ ସୂଚନା)

sudo chmod + x ./download/download.sh
sudo bash ./download/download.sh

ଏହା ପ୍ରାୟ ଏକ ଘଣ୍ଟା ଲାଗିବ | ବୃଥା ସମୟ ନଷ୍ଟ ନକରିବା ପାଇଁ, ଆମେ ଏକ ନୂତନ ssh ସଂଯୋଗ ସୃଷ୍ଟି କରୁ ଏବଂ ସମାନ୍ତରାଳ ଭାବରେ ଆମେ ଏକ ଡକର୍ ପାତ୍ର ନିର୍ମାଣ ଆରମ୍ଭ କରିବା |

4. nvidia – ଡକର୍ 2 ସଂସ୍ଥାପନ କରନ୍ତୁ |

ସାଧାରଣ ଡକର୍ ଉପଯୁକ୍ତ ନୁହେଁ,
nvidia-docker2 ଆବଶ୍ୟକ |
https://docs.nvidia.com/datacenter/cloud-native/container-toolkit/install-guide.html#setting-up-nvidia-container-toolkit

5. YaLM ପାଇଁ ଏକ ପାତ୍ର ନିର୍ମାଣ |

cd yalm
sudo chmod + x ./docker/*
sudo bash ./docker/build.sh

ଏହା ମଧ୍ୟ ପ୍ରାୟ ଏକ ଘଣ୍ଟା |

ଲାଇଫ୍ ହ୍ୟାକ୍ | ଆପଣ ଚେକ୍ ପଏଣ୍ଟ ଡାଉନଲୋଡ୍ କରିପାରିବେ, ଡକର୍ ସଂସ୍ଥାପନ କରିପାରିବେ ଏବଂ ଗୋଟିଏ ଭିଡିଓ କାର୍ଡ ସହିତ ଶସ୍ତା ସର୍ଭରରେ ଏକ ପାତ୍ର ଧାରଣ କରିପାରିବେ | ସମୟ ସମୟରେ ଏହା ସମାନ ହେବ, ତେଣୁ ଆପଣ ଟିକିଏ ସ save ୍ଚୟ କରିପାରିବେ | ଏକ ଶସ୍ତା ସର୍ଭରରେ ଏକତ୍ର ହେବା ପରେ, ଆମେ ଏହାକୁ ବିଲୋପ କରୁ ଏବଂ ଏକ ଶସ୍ତା ସର୍ଭରରୁ ଏକ ଡିସ୍କ ବ୍ୟବହାର କରି ଏକ ଯୁଦ୍ଧ ସର୍ଭର ସୃଷ୍ଟି କରୁ | ତା’ପରେ ଆପଣ ବିଧାନସଭାକୁ ଅପେକ୍ଷା କରିବା ଏବଂ ଚେକପଏଣ୍ଟଗୁଡିକୁ ପମ୍ପ କରିବା ପାଇଁ ଅଧିକ ସମୟ ଦେବେ ନାହିଁ |

6. ବିଷୟବସ୍ତୁ ପ୍ରସ୍ତୁତ କରନ୍ତୁ |

6.1 ଚେକପଏଣ୍ଟ |

ଚେକପଏଣ୍ଟଗୁଡ଼ିକର ଡାଉନଲୋଡ୍ ସମାପ୍ତ ହେବା ପରେ, ଆପଣଙ୍କୁ ସେଗୁଡ଼ିକୁ କନଫିଗରେ ପକାଇବାକୁ ପଡିବ | ଦୁଇଟି ଉପାୟ ଅଛି, ସଠିକ୍ ପାରାମିଟର କିମ୍ବା ସ୍ଥାନାନ୍ତର ଚେକପଏଣ୍ଟ | ଯେଉଁଠାରେ ଆଶା କରାଯାଏ ଯେ ଚେକପଏଣ୍ଟଗୁଡ଼ିକ ଯଥାକ୍ରମେ ପ୍ରକଳ୍ପର ମୁଖ୍ୟ ଡିରେକ୍ଟୋରୀରେ ରହିବ, ଯାହା ଡାଉନଲୋଡ୍ ହୋଇଛି ତାହା ଉପରୋକ୍ତ ଡାଉନଲୋଡ୍ ଫୋଲ୍ଡରରୁ ସ୍ଥାନାନ୍ତରିତ ହେବା ଆବଶ୍ୟକ | ୟାଲମ୍ ଫୋଲ୍ଡର୍ ରେ ଏକଜେକ୍ୟୁଟ୍ କରନ୍ତୁ |

mv ./download/yalm100b_checkpoint ./

କିମ୍ବା ଉଦାହରଣ ଫାଇଲଗୁଡ଼ିକରେ ଥିବା ପଥଗୁଡ଼ିକୁ ପରିବର୍ତ୍ତନ କରନ୍ତୁ
https://github.com/yandex/YaLM-100B/blob/c91b7d7fe8dbf39c9e307d6d324446d0df136a23/examples/generate_interactive.sh#L8-L9

6.2 ଭିଡିଓ କାର୍ଡ |

ଆମେ ଯାଞ୍ଚ କରୁ ଯେ ଭିଡିଓ କାର୍ଡଗୁଡ଼ିକ ସଠିକ୍ ଭାବରେ ସେଟ୍ ହୋଇଛି | ଯଦି ଆପଣଙ୍କର ଆଠଟି ଭିଡିଓ କାର୍ଡ ଅଛି, ତେବେ କିଛି ପରିବର୍ତ୍ତନ କରିବା ଆବଶ୍ୟକ ନାହିଁ | ଯଦି ସଂଖ୍ୟା ଅଲଗା, ତେବେ ଆମେ ଏହି ରେଖାଗୁଡ଼ିକୁ ପରିବର୍ତ୍ତନ କରୁ
ଦ୍ୱିତୀୟ ଧାଡିରେ, ବ୍ୟବହୃତ ଉପକରଣଗୁଡ଼ିକର ସଂଖ୍ୟା (ଆପଣ ଏହାକୁ nvidia-smi ରେ ଦେଖିପାରିବେ, ଯାହା ଆପଣ ପୂର୍ବରୁ ଆରମ୍ଭ କରିସାରିଛନ୍ତି) | ଚତୁର୍ଥରେ, ସେମାନଙ୍କର ସଂଖ୍ୟା |

7. ଡକର୍ ପାତ୍ରକୁ ଚଲାନ୍ତୁ |

ୟାଲମ୍ ଫୋଲ୍ଡରରେ ରହି, କମାଣ୍ଡ୍ ଏକଜେକ୍ୟୁଟ୍ କର |

sudo bash ./docker/run.sh

ଯଦି ସବୁକିଛି ଠିକ ଅଛି, ତେବେ ତୁମକୁ ଏକ ପାତ୍ରକୁ ନିଆଯିବ ଯେଉଁଥିରେ ତୁମ ଘର ଡିରେକ୍ଟୋରୀରେ ଥିବା ୟାଲମ ଫୋଲ୍ଡରକୁ ଯିବାକୁ ପଡିବ |

cd ~ / yalm

8. YaLM 100B ରୁ ଉଦାହରଣ ଚଲାନ୍ତୁ |

ଆମେ ଗୋଟିଏ ଉଦାହରଣ ଲଞ୍ଚ କରିବାକୁ ପ୍ରସ୍ତୁତ | ସେମାନଙ୍କୁ
ଏଠାରେ ବର୍ଣ୍ଣନା କରାଯାଇଛି |

chmod + x ./examples/generate_interactive.sh
./examples/generate_interactive.sh

ଧ patient ର୍ଯ୍ୟବାନ ହୁଅ, GPT ମଡେଲ୍ ସୃଷ୍ଟି ନହେବା ପର୍ଯ୍ୟନ୍ତ ଏବଂ ଚେକପଏଣ୍ଟରୁ ଓଜନ ଲୋଡ୍ ହେବା ପର୍ଯ୍ୟନ୍ତ ଆଉ 10-15 ମିନିଟ୍ ଅପେକ୍ଷା କରିବାକୁ ବାକି ରହିଲା |

ଯେତେବେଳେ ବିଲ୍ଡ ସମାପ୍ତ ହେବ, ମେଗାଟ୍ରନ୍ ଏମ୍ଏଲ୍ ଆପଣଙ୍କୁ ପାଠ୍ୟ ସୃଷ୍ଟି କରିବାକୁ ଏକ ପ୍ରସଙ୍ଗ ପ୍ରବେଶ କରିବାକୁ କହିବ | ଆପଣ ଟାଇପ୍ କରିବା ସମୟରେ ସାବଧାନ ରୁହନ୍ତୁ | ନିର୍ଦ୍ଦିଷ୍ଟ ପରିସ୍ଥିତିରେ, ଏକ ତ୍ରୁଟି ଘଟେ, ପ୍ରୋଗ୍ରାମ୍ କ୍ରାସ୍ ହୁଏ ଏବଂ ଆପଣଙ୍କୁ ପୁନର୍ବାର ବିଧାନସଭା ଆରମ୍ଭ କରିବାକୁ ପଡିବ | ତେଣୁ, ଏକ ଫାଇଲରୁ ପାଠ୍ୟ ଗ୍ରହଣ କରୁଥିବା ଉଦାହରଣ ବ୍ୟବହାର କରିବା ଭଲ |

9. କାର୍ଯ୍ୟର ଫଳାଫଳ

କ interesting ତୁହଳପ୍ରଦ ଦେଖାଯାଉଛି | ଅବଶ୍ୟ, ଏଗୁଡ଼ିକ କେବଳ ଭଲ ଉଦାହରଣ | ମୁଁ ବିଭିନ୍ନ ନମୁନାରେ ପରୀକ୍ଷା ଚଳାଇଲି | ଆଶା କରାଯାଉଥିବା ପରି, ପ୍ରସଙ୍ଗ ଯେତେ ଭଲ, ଅଧିକ ଅର୍ଥପୂର୍ଣ୍ଣ ପାଠ୍ୟ ସୃଷ୍ଟି ହେବ | ପରୀକ୍ଷାମୂଳକ ପି generations ଼ିର ସମ୍ପୂର୍ଣ୍ଣ ସେଟ୍ ଲିଙ୍କରେ ଦେଖାଯାଇପାରିବ:

• generate_conditional_sampling.sh
• generate_conditional_greedy.sh
• generate_unconditional.sh

ମୂଲ୍ୟ ପାଇଁ, ତାଲିମ ଠାରୁ ଆରମ୍ଭ କରି ପି generation ଼ି ପର୍ଯ୍ୟନ୍ତ ବିଭିନ୍ନ ସାମର୍ଥ୍ୟର ସର୍ଭର ଭଡା ପାଇଁ ମୋତେ ପ୍ରାୟ 9 ହଜାର ରୁବଲ୍ ଖର୍ଚ୍ଚ ହୋଇଥିଲା | ଏକ ନିର୍ଦ୍ଦିଷ୍ଟ ନିରାଶା ଥିଲା ଯେ ତୁମେ ତୁରନ୍ତ ସବୁକିଛି ସୃଷ୍ଟି କରିପାରିବ ନାହିଁ | ଆରମ୍ଭ କରିବାକୁ ବହୁତ ସମୟ ଲାଗେ ଏବଂ ଘଣ୍ଟା ପ୍ରତି ସର୍ଭରର ମୂଲ୍ୟକୁ ଦୃଷ୍ଟିରେ ରଖି ଟେକ୍ସଟ୍ ଯେତେ ଶୀଘ୍ର ଚାହିଁବ ନାହିଁ |
 

200Gb GPU RAM ବିନା YaLM କୁ କିପରି ଚଲାଇବେ?

ଆପଣଙ୍କୁ କନଫିଗରେ ଗଭୀର ସ୍ପିଡ୍ ଶୂନ ଅଫଲୋଡ୍ ଯୋଡିବାକୁ ପଡିବ | ଯେଉଁମାନେ ଜାଣନ୍ତି ଆମେ କ’ଣ ବିଷୟରେ କହୁଛୁ, ଏହା କରିବା ଅତି ସହଜ ହେବ | ଅନ୍ୟମାନଙ୍କ ପାଇଁ, ଏହା ଆଦ tr ଗୁରୁତ୍ୱପୂର୍ଣ୍ଣ କାର୍ଯ୍ୟ ନୁହେଁ | ଏହା ଜାଣିବା ଜରୁରୀ ଯେ ଅଫଲୋଡ୍ CPU RAM କିମ୍ବା NVMe ରେ ହୋଇପାରେ | ଆପଣ ବର୍ତ୍ତମାନ NVMe ବିଷୟରେ ଭୁଲିପାରିବେ, କାରଣ | ବହୁତ ପରିମାଣର ଡାଟା ପ୍ରକ୍ରିୟାକରଣ କରାଯାଉଛି ଏବଂ ଡିସ୍କ ଏହାକୁ ସହ୍ୟ କରିପାରିବ ନାହିଁ | ଜିରୋ ଅଫଲୋଡ୍ CPU ଅଧିକ ବାସ୍ତବ ଅଟେ | ସତ, ଏଥିପାଇଁ ଆପଣଙ୍କୁ ଷ୍ଟକ୍ରେ 200+ Gb CPU RAM ରହିବା ଆବଶ୍ୟକ, ଯାହା ମଧ୍ୟ ଶସ୍ତା ନୁହେଁ | ଏବଂ ପ୍ରାୟ 20-40 ମିନିଟ୍ ପାଇଁ ଗୋଟିଏ ଲେଖା ସୃଷ୍ଟି ହେବ, ଯେହେତୁ ଏହାକୁ ଦୁଇଟି ଭିଡିଓ କାର୍ଡରେ ସମାନ୍ତରାଳ କରିବା ସମ୍ଭବ ନୁହେଁ | ଯେହେତୁ ଆପଣ ନିମ୍ନରେ ଥିବା ସ୍କ୍ରିନସଟରେ ଦେଖିପାରିବେ, କେବଳ ଗୋଟିଏ ଭିଡିଓ କାର୍ଡ ପି generation ଼ି ସହିତ ଜଡିତ ଥିଲା, ଏବଂ ତା’ପରେ କେବଳ ଏକ ଚତୁର୍ଥାଂଶ ସ୍ମୃତି ପାଇଁ | ଏହା ଦେଖିବାକୁ ବାକି ରହିଲା କାହିଁକି ସମସ୍ତ 24 GB କାହିଁକି ବ୍ୟବହୃତ ହୁଏ ନାହିଁ,
ଠିକ୍, ଶେଷରେ, ମୁଁ କହିବି ଯେ ଗୋଟିଏ RTX 3070 TI ରେ ମଧ୍ୟ ଚାଲିବା ସମ୍ଭବ | କିନ୍ତୁ ଏଥିରେ କ particular ଣସି ନିର୍ଦ୍ଦିଷ୍ଟ ଅର୍ଥ ନାହିଁ, କାରଣ | NVMe ଆପଣଙ୍କୁ ସ୍ sw ାପରେ 150 ଜିବି ଡାଟା ଶୀଘ୍ର ପ୍ରକ୍ରିୟାକରଣ କରିବାକୁ ଅନୁମତି ଦେବ ନାହିଁ, ଯାହା 96 GB RAM ର ପରିଶିଷ୍ଟରେ ଅଛି |

ସଂକ୍ଷେପରେ

ଅବଶ୍ୟ, ମୁଁ ତଥାପି ସର୍ବୋତ୍ତମ ଉନ୍ମୋଚନ ପଥ ଖୋଜିବାକୁ ଚେଷ୍ଟା କରିବି | କିନ୍ତୁ ଏପର୍ଯ୍ୟନ୍ତ ମୁଁ ଏହି ସିଦ୍ଧାନ୍ତରେ ପହଞ୍ଚିଛି ଯେ YaLM 100b ମୋ କାର୍ଯ୍ୟ ପାଇଁ ଅତ୍ୟଧିକ ମହଙ୍ଗା / ଅତ୍ୟଧିକ ଧୀର ଅଟେ | ସମାନ ଟଙ୍କା ପାଇଁ, ଲୋକମାନେ ଅଧିକରୁ ଅଧିକ ଭଲ ଲେଖିବେ | କିନ୍ତୁ ମୁଁ ଭାବୁଛି ଏହା ଅସ୍ଥାୟୀ, ଆମେ ଦେଖିବା | ଯଦି ଆପଣ ଉନ୍ମୋଚନ, ୟାଲମ୍ ସେଟ୍ ଅପ୍ କରିବାରେ ସାହାଯ୍ୟ ଆବଶ୍ୟକ କରନ୍ତି, କିମ୍ବା ଆପଣଙ୍କ ପ୍ରସଙ୍ଗ ଉଦାହରଣରେ ଫଳାଫଳ ଦେଖିବାକୁ ଚାହାଁନ୍ତି, ମେଲ୍ କିମ୍ବା ଟେଲିଗ୍ରାମକୁ ଲେଖନ୍ତୁ |