메타 인공지능 ai 라마3 설치 및 사용 방법
메타에서 출시한 인공지능 라마3는 ChatGPT와는 다르게 사용하기 위해서는 내 컴퓨터에 설치해야 하는 과정이 동반된다.
하지만 그만큼 속도면에서 이점이 있으며 라마의 버전에 따라서 유료로 사용하는 ChatGPT 4.0와 비슷한 성능을 가지고 있는 만큼 컴퓨터의 성능만 좋다면 무료로 쓸만한 인공지능을 사용할 수 있다는 것이 장점인데 설치 방법 또한 어렵지 않고 아주 간단하다.
목차 (Contents)
라마3 설치하기
1. Ollama 설치.
라마3를 사용하기 위해서는 먼저 Ollama를 설치해야 하는데 라마라는 인공지능을 관리하는 프로그램이라고 생각하면 되지않을까 한다.
Ollama의 설치파일은 아래의 링크를 클릭하여 사이트에 접속한 뒤 [Download for Windows] 버튼을 클릭하면 된다.
다운로드한 파일을 실행하면 Ollama의 설치를 할 수 있는데 별다른 과정은 없으며 [Install] 버튼을 클릭하면 바로 설치가 진행된다.
참고로 설치 경로는 아래와 같다.
| C:\Users\계정명\AppData\Local\Programs\Ollama |
2. 라마3 설치 명령어 확인.
Ollama의 설치를 했다면 이제 라마3의 설치를 위해 설치 명령어를 확인하자.
설치 명령어는 아래의 링크를 클릭하여 사이트에 접속.
설치할 라마3의 버전을 선택하고 나타난 명령어를 복사하면 된다.
컴퓨터의 성능이 좋다면 70b를 선택하면 되고 성능이 좋이 않다면 8b를 선택하면 되는데 70b는 ChatGPT 4.0 정도의 성능을 8b는 ChatGPT 3.5 정도의 성능을 가지고 있다고 보면 된다.
(대략 적으로 그렇다는 것이다)
사이트에서 명령어를 확인하는 것이 편하지만 귀찮다면 아래의 명령어를 복사해서 붙여 넣어도 된다.
| - 8b : ollama run llama3:8b - 70b : ollama run llama3:70b |
3. 라마3 설치.
코드까지 확인했다면 이제 해당 코드를 사용해서 라마3를 설치하면 된다.
설치는 cmd를 실행하고 해당 코드를 붙여 넣으면 설치를 진행한다.
(시간이 꽤 걸린다)
4. 라마3 사용하기.
설치가 끝나면 success라는 메시지를 확인할 수 있으며 이제 라마3를 사용하면 된다.
>> 뒤에 텍스트를 입력하면 질문에 의한 답을 해주며 답은 영어로 하기 때문에 한글이 필요하다면 답변을 한글로 요구하거나 번역을 해달라던가 하는 부분을 추가로 입력하는 것이 좋다.
이 외에도 라마를 사용하기 위한 명령어는 아래를 참고하자.
| - 라마3 실행(설치 시 명령어를 입력하면 된다) ollama run 설치된라마버전 - 설치된 라마 확인 ollama list - 라마3 삭제(ollama를 종료하고 입력해야 삭제가 가능하다) ollama rm 설치된라마버전 - 라마3에서 사용하는 명령어 /? : 라마의 간단한 도움말을 확인할 수 있다. /exit : 라마 종료. [Ctrl + C] : 명령어는 아니고 단축키라고 보면 되는데 라마의 답변을 중지하고 싶을때 누르면 된다. |
그 외 내용
라마3는 다른 ChatGPT와 같은 인공지능과는 다르게 cmd에서 대화를 주고받는 형식이다 보니 사용이 생각보다 불편할 수 있다.
하지만 컴퓨터의 성능만 좋다면 빠르고 성능 좋은 인공지능을 무료로 사용할 수 있다는 장점이 있기 때문에 평소 인공지능을 많이 활용했다면 라마3를 사용해 보는 것도 나쁘지 않을 것이다.
또한 라마 스튜디오를 사용하면 불편한 cmd 대신 gui환경의 인터페이스를 사용할 수 있다고 하니 cmd 환경이 불편하다면 라마 스튜디오를 사용해 보는 것은 어떨까 한다.